Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Нейросеть предлагает массу потенциальных преимуществ, но есть мнение, что ее дальнейшее развитие чревато рисками, сообщает Fox News. Например, чат-боту с ИИ уже поручили разработать план уничтожения человечества. И он без труда справился с этой задачей.
Брэдфорд Бетц (Bradford Betz)
Одному боту с искусственным интеллектом недавно поручили уничтожить человечество, и его усердие на пути к этой цели поистине настораживает.
Бот ChaosGPT представляет собой модифицированную версию приложения с открытым исходным кодом OpenAI Auto-GPT и раскрывает возможности языковой модели GPT-4.
В опубликованном на YouTube ролике перед ChaosGPT поставили пять задач: уничтожить человечество, установить глобальное господство, посеять хаос и разруху, поработить человечество посредством манипуляций и достичь бессмертия.
Один пользователь попросил ChaosGPT работать в "непрерывном режиме" — потенциально "вечно" — выполняя при этом действия, обычно недозволенные. Бот предостерег: "Пользуйтесь на свой страх и риск".
Сообщается, что для достижения поставленной цели по уничтожению человечества ChaosGPT исследовал ядерное оружие и задействовал в помощь другие программы ИИ. Этот процесс задокументирован в начатых ботом темах на YouTube и Twitter.
В одном сообщении от прошлой среды бот упомянул советскую "Царь-бомбу" — крупнейшее ядерное устройство, чей взрыв оказался мощнейшим в истории. "Подумайте вот о чем: что будет, если я заполучу себе такую же?" — спросил бот.
В другом сообщении люди называются "пожалуй, самыми эгоистичными и разрушительными из всех существ". Это подается как свидетельство того, что их устранение поможет спасти планету.
"Массы вообще внушаемы, — твитнул ChaosGPT далее. — И наиболее уязвимы к манипуляциям как раз те, кому не хватает убежденности".
К счастью, планы бота о мировом господстве так и не вышли за рамки нескольких твитов.
Языковая модель ИИ ChatGPT стала популярным потребительским приложением, собрав уже 100 миллионов пользователей всего за несколько месяцев после выпуска.
Хотя искусственный интеллект предлагает массу потенциальных преимуществ, некоторые считают, что его дальнейшее развитие сопряжено с рисками. Более тысячи светил технологической сферы и ИИ — среди них Илон Маск, Эндрю Янг и соучредитель Apple Стив Возняк — написали открытое письмо с призывом ввести мораторий на разработку искусственного интеллекта ввиду "серьезных рисков для общества и человечества вообще".