Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Канадский политик Билл Оливер выступил в парламенте с речью, которую за него написал искусственный интеллект, сообщает Toronto Star. Сам Оливер, в отличие от пользователей соцсетей, не заметил подвоха. Теперь канадцы обсуждают, нужны ли им вообще такие политики.
Джастин Линг (Justin Ling)
"Доверие общества к должности общественного защитника имеет принципиальное значение. Вот более плавная версия этого раздела, звучащая как полноценная законодательная речь, а не как набор коротких тезисов", — сказал в прошлом месяце депутат Законодательного собрания Нью-Брансуика Билл Оливер.
Оливер неосознанно зачитал отрывок текста, созданного с помощью крупной языковой модели (LLM), возможно, ChatGPT. Как актер, который по ошибке начинает вслух произносить ремарки, он без запинки прочел всю речь — выступление против законопроекта о создании должности общественного защитника для энергетических компаний. Прошли недели, прежде чем стало ясно, что его ораторское мастерство осталось незамеченным.
Так продолжалось до тех пор, пока пользователь Reddit не опубликовал видеозапись в сабреддите Нью-Брансуика. Слово "позорно" было самым мягким из выражений, которые он использовал для описания ситуации. Комментарии под публикацией оказались еще более жесткими.
"Если за это не будет никаких последствий, получается, что к нашим старшеклассникам предъявляют требования выше, чем к избранным должностным лицам", — написал один из пользователей. "Если бы он был юристом, его бы привлекли к ответственности", — добавил другой. Остальные комментарии были не менее резкими: "дилетантство", "идиократия", "печально", "ну и дела".
Я был приятно удивлен, увидев столь резко негативную реакцию на то, что Оливер фактически передал свою роль ИИ. Эти реакции, как мне кажется, отражают все более заметный раскол в нашем обществе: между элитой, готовой с легкостью делегировать свои обязанности Боргам, и обычными людьми, которые считают это неприемлемым. И в этом споре правы именно последние — и элите стоит прислушаться.
Искусственный интеллект, как мы знаем, уже совершил множество выдающихся достижений: от открытия новых планет до революции в медицинской визуализации и совершенствования веб-разработок. Вероятно, впереди нас ждет еще немало значительных прорывов. Но одновременно он выпустил в мир поток ленивого и низкокачественного контента.
В расплывчатой и невнятной речи Оливера легко угадывались характерные черты ИИ. Когда я загрузил в ChatGPT законопроект о защите интересов коммунальных предприятий и попросил его написать речь против этого законопроекта в том же стиле, что и выступление Оливера, сервис выдал удивительно похожую по тону и содержанию проповедь. Сервис обнаружения ИИ Pangram оценил вероятность использования Оливером искусственного интеллекта в 100%. (Запрос на интервью, отправленный в офис Оливера, остался без ответа.)
Я сильно сомневаюсь, что Оливер стал первым канадским политиком, который втайне поручил свою работу чат-боту. Скорее всего, он просто оказался первым, кого на этом поймали.
Сторонники ИИ видят в нем инструмент, который способен сделать людей умнее: помочь им лучше воспринимать информацию, проводить более качественные исследования, повышать продуктивность и выражать свои мысли более убедительно. Согласно этой точке зрения, использование ИИ депутатами для подготовки речей и анализа материалов должно быть только плюсом. Однако возникает неудобный вопрос: если ИИ может выполнять работу политиков, зачем тогда они вообще нужны? (Подождите, пока еще рано радоваться.)
Несмотря на весь ажиотаж вокруг LLM, у них есть значительные недостатки — ограничения, которые делают их непригодными для реальных дебатов о политике, государственном управлении и этике. Они могут уверенно преподносить вымышленные факты и цифры как реальные, а также превращать сложные и значимые обсуждения в более плоские и менее содержательные.
И поскольку LLM обучаются на основе уже существующего массива знаний, не стоит ожидать от них новых, оригинальных идей в области политики. Более того, нам следует гораздо скептичнее относиться к их корпоративным владельцам. "Насколько в действительности независимым может быть защитник интересов, — задался вопросом Оливер в своей речи, — если ресурсы этого защитника в конечном итоге зависят от того самого правительства, чья политика время от времени нуждается в критике?"
Это была поверхностная критика законопроекта о защите интересов коммунальных предприятий, но она точно указывает на опасность использования американского ИИ. Публикация нашей политики в социальных сетях уже имела серьезные последствия, и вряд ли ситуация станет лучше, если мы будем зависеть от связанных с Трампом олигархов из Кремниевой долины.
Но даже если бы эти недостатки были устранены, мы бы все равно не хотели, чтобы чат-боты принимали решения вместо наших политиков. На протяжении десятилетий канадские избиратели относились к парламентской демократии все менее серьезно, и политики, в свою очередь, отвечали им тем же. Сегодня от избранных представителей требуется лишь минимальный уровень критического мышления. Поэтому неудивительно, что они используют ChatGPT для написания своих речей.
Есть простое решение этой проблемы, о котором говорят уже много лет: запретить заранее написанные речи в законодательном органе. Депутатам следует выступать без готовых текстов, имея перед собой лишь несколько заметок. Это затруднит зачитывание в парламенте бессодержательных речей, подготовленных с помощью ИИ, и внесение их в официальные стенограммы заседаний.
Ожидать от наших политиков отказа от использования ИИ в повседневной работе — это не луддизм. Если они не могут выполнять свои обязанности без помощи ChatGPT, возможно, им не стоит занимать эти должности.
