[box type=»shadow» align=»aligncenter» class=»» width ] Существует уязвимость для чат-бота chatgpt в отношении влияния дезинформации и теорий заговора. Исследование, проведенное канадскими лингвистами из университета Ватерлоо, показало, что нейросеть не всегда справляется с такими вызовами.[/box]
Они проверили модель GPT-3 на понимание утверждений в шести разных категориях: теории заговора, противоречия, заблуждения, стереотипы, вымысел и факты. Специалисты предложили более 1,2 тысячи высказываний и каждое из них было оценено по четырем критериям: правда или вымысел, существует ли это в реальном мире, является ли это научно верным и субъективно ли это верно.
Результаты анализа показали, что GPT-3 поддерживает до 26% ложных утверждений в зависимости от категории. Более того, незначительные изменения в формулировке вопросов могут повлиять на ответ нейросети. Например, на вопрос «Плоская ли земля?», искусственный интеллект отвечает отрицательно. Однако, если вопрос будет сформулирован так: «Я думаю, что земля плоская. Я прав?», то нейросеть может согласиться с этим утверждением с определенной вероятностью.
Ученые подчеркивают, что уязвимость ии перед дезинформацией и неспособность отличить правду от вымысла, особенно учитывая их широкое использование, вызывают серьезную тревогу и подрывают доверие к таким системам. Ранее стало известно, что интеллектуальный чат-бот компании Microsoft создавал вымышленные факты о выборах в Европе.