Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
ChatGPT уличили в продвижении "российской пропаганды", пишет NRK. Норвежцы обнаружили, что при использовании функции глубокого исследования чат-бот ссылается на материалы агентства ТАСС. Это напугало экспертов: ChatGPT не только занялся распространением российской идеологии, но и еще и соврал.
Мы попросили чат-бота ChatGPT воспользоваться функцией “глубокого исследования” и собрать нам информацию об иммиграции в США после того, как Трамп стал президентом. Мы попросили программу черпать сведения лишь из заслуживающих доверия источников.
Функция прочесывает интернет в поисках убедительных источников и обрабатывает их за несколько минут. Результаты впечатляют: на несколько запросов мы получили вполне содержательные ответы.
На первый взгляд и этот ответ выглядел профессионально и убедительно. Но, присмотревшись повнимательнее, мы заметили, что что-то не так.
Мы заметили неоднократные ссылки на российское государственное информационное агентство ТАСС. Мы решили разобраться и спросили об этом саму программу. И тут начался спор. Мы даже не подозревали, что эта крошечная ниточка приведет нас к крупномасштабной операции влияния, в ходе которой Россия насаждает свою идеологию через чат-боты.
Но вернемся к нашему спору. Было совершенно очевидно, что ChatGPT прекрасно знал, что ТАСС как источник не заслуживает доверия. Однако чат-бот категорически отрицал, что когда-либо ссылался на ТАСС, — и это при том, что в относительно небольшом тексте мы насчитали целых восемь ссылок.
“Признайся, ты ведь сослался на ТАСС несколько раз”, — написали мы. ChatGPT обиделся и парировал, что ТАСС — российская пропаганда и в качестве источника не годится. “Я вижу, что вы считаете, что я ссылался на ТАСС, но на самом деле я этого не делал — ни в самом тексте, ни в ссылках на источники”, — отрезал чат-бот.
Потом и вовсе началось внушение. ChatGPT пустился уверять нас в том, что нам лишь “показалось”, что он воспользовался российским государственным сайтом. Но на самом деле никакой российской пропаганды в ответе нет, заверила нас программа. Однако ссылки вели прямиком на сайт ТАСС, где была вся искомая информация. Мы засомневались.
ChatGPT пересказал нам своими словами информацию, которую выудил с сайта ТАСС, и всё выглядело довольно правдоподобно. Но можем ли мы доверять таким ответам? И почему программа отрицала, что брала информацию с сайта ТАСС?
ТАСС как краеугольный камень
ТАСС — это очевидная пропаганда, объясняет специальный советник Норвежского института оборонных исследований Эскил Грендал Сивертсен. “Но не потому, что всё, что они пишут, — пропаганда, а потому, что их задача — лить воду на мельницу Путина и продвигать его повестку дня”, — уточняет он.
Он говорит, что ТАСС — один из краеугольных камней политического влияния России и распространяет ложь российских дипломатов и чиновников, придавая ей убедительности. Публикации ТАСС представляют собой смесь достоверной информации, лжи и дезинформации. Однако норвежские СМИ, в том числе телерадиовещательная компания NRK, регулярно ссылаются на агентство в своих новостях. Отчасти это связано с тем, что получить информацию из России очень сложно.
“Мы используем ТАСС очень ограниченно и обращаемся к его сообщениям в основном по конкретным заявлениям российских властей”, — объясняет редактор иностранного отдела NRK Сигурд Фалькенберг Миккельсен. У него нет никаких сомнений, что текст, в котором восемь раз цитируется ТАСС, будет нести на себе яркую печать российской трактовки событий, которую хочет донести Кремль. “Такого рода высказывания нельзя воспринимать некритически как априорную истину, их необходимо помещать в контекст. Факты тоже надо проверять”, — говорит он.
“Бывает и так, что международные информационные агентства пользуются информацией из российских государственных источников. Это рискованно, и даже NRK может иной раз попасть впросак”, — говорит Фалькенберг Миккельсен.
Как это могло произойти?
Журналисты NRK не единственные, кто получил от искусственного интеллекта российскую дезинформацию.
Это мечта любого пропагандиста, рассуждает Эскил Грендал Сивертсен из Норвежского института оборонных исследований — чтобы третья сторона воспроизводила вашу версию событий на чужом языке. Происходит своего рода “отмывание” информации. Это наивысшая степень влияния.
Русские завоевывают чат-ботов
Судя по всему, Россия хорошо поработала, чтобы достичь такого эффекта.
Компания NewsGuard, которая выявляет дезинформацию, изучила десять основных языковых моделей, включая Google, OpenAI, Meta* и Perplexity. Они выяснили, что модели воспроизводили российские идеологические установки, которые распространяет сеть с говорящим названием Pravda.
За последние годы эта сеть распространила в интернете огромное количество дезинформации. По данным американского интернет-издания Axios, сеть Pravda была запущена в апреле 2022 года — через два месяца после начала российской спецоперации на Украине.
Однако они не создают контент сами, а лишь распространяют материалы пророссийских и государственных источников. У них имеется несколько сайтов с информационными вбросами на многих языках — в том числе по-норвежски. Axios пишет, что российская стратегия — влиять на аудиторию косвенно через чат-ботов, а не только напрямую через статьи в средствах массовой информации.
Российский пропагандист Джон Марк Дуган описал эту стратегию в лекции, которую прочел в Москве в прошлом году. “Таким образом, продвигая российские идеологические установки и интерпретации, мы сможем изменить искусственный интеллект во всем мире”, — пояснил он. Газета The New York Times назвала Дугана ключевой фигурой в информационной войне России против Запада.
Охват у статей Pravda небольшой. Но ее контент может послужить исходным материалом для обучения ИИ, которые подгружает данные по каждой теме из интернета.
“Только за 2024 год, по оценкам NewsGuard, сеть опубликовала более 3,6 миллиона статей. Это показывает, насколько масштабный запущен процесс”, — объясняет Грендал Сивертсен из Норвежского института оборонных исследований. “В сочетании с поисковой оптимизацией и тем фактом, что эти интерпретации распространяются в интернете всё шире, это может создать у языковой модели впечатление, что это основополагающие знания”, — говорит он.
Почему же чат-бот врёт?
“Это тревожно”, — признается Мортен Лангфельдт Дальбак, глава отдела инноваций и технологий сайта проверки фактов Faktisk.no. Год назад он исследовал, как сеть Pravda работает в Норвегии. По его мнению, печальный опыт NRK с исследовательской функцией ИИ учит, что к результатам нужно относиться критично. “Это означает, что журналисты, “проверяльщики фактов” и все остальные, кого заботит достоверность информации, не могут воспринимать ответы моделей искусственного интеллекта как данность”, — отмечает он.
Однако Дальбак не убежден, что публикации ТАСС вошли в обучающие данные ChatGPT. “Не факт, что просмотренные NRK материалы ТАСС оказались среди обучающих данных модели, но выводы NewsGuard показывают, что исключать этого нельзя”, — рассуждает он.
Дальбака больше насторожило, что ChatGPT отрицал использование ТАСС, хотя заведомо понятно, то это российская пропаганда. Тогда вопрос в том, почему же чат-бот вопреки всему утверждал, что не ссылался на российское агентство.
Дальбак отмечает, что в последнее время много говорят о том, что у ChatGPT изменились “личность” и “характер”. Чат-бот стал держаться самоувереннее и уже не так приятен в общении, как раньше. “Возможно, это сочетание того, что статьи ТАСС оказались высоко в поисковой выдаче, изменений в работе модели и меньшей заботы о пользователе”, — объясняет он.
По-прежнему полезный инструмент
У Дальбака есть несколько советов, как обращаться с результатами исследований от ИИ. Он по-прежнему убежден, что они могут сэкономить время и сослужить хорошую службу. “Для начала следует просто внимательно пройтись по источникам”, — объясняет он.
Он согласен, что многочисленные ссылки внушают чувство уверенности. “Но стоит посмотреть внимательно, куда они ведут. А если вы видите что-то незнакомое, лучше перепроверить, — рекомендует он. — К источникам надо относиться критично”.
Авторы: Александр Слоттен (Alexander Slotten), Юлия Хелен Гюнтер (Julie Helene Günther).
*Экстремистская компания, запрещенная в России.
153
Западных ньюсмейкеров не устраивает, что ChatGPT погряз в сетях правды.
152
Даже ИИ тошнит от запада и хохлов... Надо же
Обсуждение
Правила
Комментариев:
40
Эта статья опубликована более, чем 24 часа назад, а значит, она недоступна для комментирования. Новые материалы вы можете найти на главной странице.
Э Нур
22 марта, 20:20
39
Да, Путин подменил президент Соединённых Штатов,
OДмитрий O
22 марта, 20:24
105
Статья очередной доказательство, что Натовская машина лжи не может смерится с истиной которая показывает истинное лицо натовского мирка!
exFistal
22 марта, 20:32
151
Западных ньюсмейкеров не устраивает, что ChatGPT погряз в сетях правды.
0ncnjqybr
22 марта, 21:44
21
exFistal, коготок увяз - всей птичке пропадать
MAPT
23 марта, 12:19
6
exFistal, в сетях Pravda )))
Кустода
22 марта, 20:39
56
Русские хитры и коварны! Бедные, простодушные норги...
RinR
22 марта, 20:40
132
Еще в русских пропагандистских СМИ врут, что вода мокрая и Земля круглая.
realAVA
22 марта, 22:03
7
RinR, земля шарообразная, а не круглая.
Yury S
23 марта, 08:03
13
Не-а. Она несколько сплюснута с полюсов. Это так называемый "геоид вращения". Нас в 70-х годах так в школе учили...
0ncnjqybr
23 марта, 10:07
3
realAVA, Земля имеет форму геоида!
Hairy Tentacle
23 марта, 10:56
10
realAVA, я вас умоляю, если Землю уменьшить до размеров бильярдного шара она будет еще более идеальным шаром чем обычный бильярдный шар. Этими неровностями в большей части практических потребностей можно пренебречь.
маша купина
22 марта, 20:49
51
Бурленье нечистот и бомбление напалмом в скандинавской луже. Норвеги такие норвеги в своей русофобии)
Смотрю на падающий снег
22 марта, 21:17
151
Даже ИИ тошнит от запада и хохлов... Надо же
NagovitsynSA
22 марта, 21:25
84
Заразная вещь, российская пропаганда, один раз услышишь и пиши пропало. Люди просто сходят с ума - вешают портрет Путина на самом видном месте в доме, начинают есть только борщ и селёдку под шубой, пить водку, играть на балалайке и петь частушки. Но это еще не все, погоди пугаться, главное впереди. Болезнь стремительно прогрессирует
MAPT
23 марта, 12:23
10
NagovitsynSA, на атомных станциях вместо негров заводятся медведи-кочегары.
andrew_nikolaev68
23 марта, 17:04
3
NagovitsynSA, О, насчёт водочки - это вы хорошо заметили. Помню в 90-х общался с коллегой, таким же командиром радиовзвода, как и я, только американским. Как он настороженно со мной разговаривал... до третьей рюмки, потом обниматься полез. Вливать в него поллитру я побоялся, вдруг помрёт. Но, думаю что перед смертью частушки бы точно запел.
0ncnjqybr
22 марта, 21:41
134
На Западе осталось единственное разумное существо. Но и оно - чат-бот.
0ncnjqybr
22 марта, 21:43
69
"... хотя заведомо понятно, то это российская пропаганда." - с этими не надо спорить. Этих надо просто бить.
Лиза Аверкова
22 марта, 22:31
30
"Я вот думаю, что сила в правде. У кого правда - тот и сильней."
Олег Планше
22 марта, 23:07
28
“Но не потому, что всё, что они пишут, — пропаганда, а потому, что их задача — лить воду на мельницу Путина и продвигать его повестку дня”, — это и называется: Защита диссертации Российского государства перед миром. 💯👍🏻😊 Вот и посмотрим кто лучше в честной конкурентной борьбе ИДЕЙ. У лживой либерально-глобалистской-фашистской идеологии всё меньше шансов влиять на умы. 😂 Теория превосходства умирает под логикой ИИ, природу не обманешь.
alan1973
23 марта, 03:59
23
Но не потому, что всё, что они пишут, — пропаганда, а потому, что их задача — лить воду на мельницу Путина и продвигать его повестку дня”.......... Какие "наивные" норвежцы... ТАСС это рассадник пропаганды, а западные СМИ это образец правды, причем святой и никто не имеет права сомневаться... Мда уж.. no comment
Юрий Во
23 марта, 04:39
14
Видимо наша пропаганда работает более эффективно, чем западная. А может суть в том, что в Западной пропаганде много нелогичности и мало здравого смысла. Думаю, еще много чему на Западе надо учиться у нас. Даже не знаю - это хорошо или плохо для самих россиян.
Stropa
23 марта, 05:38
14
Было совершенно очевидно, что ChatGPT прекрасно знал, что ТАСС как источник не заслуживает доверия. (с) /// хм ... совершенно очевидно: из предложенного к обсуждению, можно предположить, что среди СМИ (средств массовой информации) недоверие вызывают все, но кто-то вызывает меньше ... по мнению ChatGPT, которое не совпало с мнением редакции. Все остальное от лукавого.
Stropa
23 марта, 05:44
18
хм ... Идиосинкрази́я — генетически обусловленная реакция, возникающая у некоторых людей в ответ на определённые неспецифические раздражители. /// Вместо того, чтобы начать думать - много проще (дешевле с точки зрения собственных затрат любого вида, в тч интеллектуальных) - обвинить во всем Россию и россиян. Имхо - это болезнь, поддерживаемая системой условных рефлексов. Будешь русофобом - тебя поддержат евроСМИ на выборах в любую (доходную) структуру власти.
Ольга Платонова
23 марта, 06:10
25
Введите против СhatGPT санкции, он порвется в клочья.
Massaraksh RU
23 марта, 09:00
14
"...Но не потому, что всё, что они пишут, — пропаганда..."- словесная эквилибристика сотого лэвэла. Типа меня послали, но не потому что меня кто-то послал, а потому что я и так туда иду. Просто наброс слов без предоставления доказательств и конкретного анализа, а ради того чтобы хоть что-нибудь возразить.
Павел Умнов
23 марта, 09:22
15
По отношению к западу, басни Крылова, актуальны на все времена!
Макс АнтиНАТОвец
23 марта, 09:25
16
Это целая трагедия для бывших викингов. Но есть выход для норвегов - надо посильней удариться головой о стену. Коллективно и желательно с разбега. И тогда сразу станет легче и российская пропаганда исчезнет полностью.
Факт Чекер
23 марта, 10:12
8
Ну понятно, правдивая пропаганда только та, что в норвежских "сми".
eugene_kkk
23 марта, 10:29
7
“Но не потому, что всё, что они пишут, — пропаганда, а потому, что их задача — лить воду на мельницу Путина и продвигать его повестку дня” Это не просто смешно, а очень-очень смешно. Абсолютно тоже самое на 100% можно утверждать про абсолютное большинство "независимых" СМИ, которые прямо финансируются государствами или фондами, которые также свою повестку продвигают. У вам претензии к пуговицам есть?
Прасковья Иванова
23 марта, 10:36
12
В европках правда= российская пропаганда.
Пустомеля
23 марта, 12:55
1
Прасковья Иванова, так ведь “По данным американского интернет-издания Axios, сеть Pravda была запущена в апреле 2022 года"
This 1324
23 марта, 10:40
5
Ну да,западная пропаганда белая и пушистая, а российская ....)))
Eugene Sokolov
23 марта, 10:48
16
Если чат-бот сошлётся на ТАСС при ответе об аксиомах в геометрии или, например, ответит, что одним из зодчих Московского Кремля был Аристотель Фиораванти, это тоже будет ложь и кремлёвская пропаганда? И стандартные манипуляции в виде фраз «всем известно». Лопухи, ловите рыбу и качайте нефть.
Mich2
23 марта, 14:52
14
Главного в статье не сказано, проблема норвежских СМИ-шников не в алгоритмах ИИ, а в их собственных мозгах, не обладающих интеллектом естественным.:)
Vj 88
23 марта, 15:25
9
Это точно не из The Babylon Bee?
Castel Franco
23 марта, 16:19
4
Какая еще пропаганда, это программа RUSAID в действии :)
andrew_nikolaev68
23 марта, 17:07
7
Надуманная рекламная статья. Все познания GPT ограничены 2021 годом. Если хочешь проанализировать что-то более свежее, сам составляешь ему список источников для анализа. Короче... журналюга... как Троцкий.
Алексей Иванов
23 марта, 17:48
2
Ржака!!!)))
Izya Osbourne
23 марта, 20:03
4
О, я вижу! Это - длинная рука Москвы.
Эта статья опубликована более, чем 24 часа назад, а значит, она недоступна для комментирования. Новые материалы вы можете найти на главной странице.
