Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Большинство людей боятся искусственного интеллекта, пишет Lidovky. Чешский специалист по машинному обучению Франтишек Гакл опровергает опасения. Он говорит о тех преимуществах, которые развитие искусственного интеллекта даст миру, но предупреждает, что будут и минусы.
Радек Йон (Radek John)
Согласно апрельскому опросу компании IPSOS и кафедры журналистики факультета социальных наук Карлова университета, 59% чехов приветствовали бы прекращение разработок в области искусственного интеллекта. Люди его боятся. Специалист по машинному обучению Франтишек Гакл опровергает опасения.
Lidovky.cz: Чего же на самом деле боятся чехи? Чем является искусственный интеллект, а чем он не является?
Франтишек Гакл: Искусственного интеллекта сегодня не существует. То есть точно не существует каких-то роботов, которые захотят нас уничтожить и в итоге нас заменят. Это лишь технология, позволяющая компьютеру лучше делать вещи, на которые он, как правило, не способен. Вещи, которые умеют делать люди, а компьютер не умеет. Я сам занимаюсь машинным обучением, на котором основано современное понятие "искусственного интеллекта". Один друг отправил мне определение разницы между машинным обучением и искусственным интеллектом. Определение звучит так: если это написано на "Питоне" (язык программирования — прим. авт.), значит, это написал программист, и это машинное обучение. Если это написано в "ПауэрПоинте", то это писал менеджер, и это искусственный интеллект. Данное определение абсолютно точно.
— Таким образом, специалисты не говорят об искусственном интеллекте?
— Нет, это не так. Как правило, это означает создание умных машин, которые справляются с задачами, требующими человеческого интеллекта. Врачи, философы, теологи, математики, специалисты по вычислительной технике и так далее классифицируют интеллект в соответствии с пятью категориями.
— О каких категориях речь?
— Самое простое это реакционноспособные машины. У них нет памяти и понятия о прошлом. Это, например, автоматические подъемники где-нибудь на "Амазоне". Чуть лучше машины с ограниченной памятью. В них можно загружать определенные данные и использовать для прогнозирования последующих событий. Еще лучше были бы машины, обладающие так называемой теорией мысли. Согласно этой концепции, машина или живой организм способен понимать поведение других машин или организмов, приписывая им определенные ментальные состояния. Он представляет себе, что они думают.
К четвертой категории относится интеллект, способный осознавать самого себя. К такому типу относимся и мы, люди. Последняя категория — это суперинтеллект. Он превосходил бы нас настолько, что мы не в состоянии были бы его понять.
— Когда вы ожидаете возникновение интеллекта пятой категории?
— Надеюсь, что я до этого не доживу. Такой интеллект может сказать, что нуждается в атомах углерода и водорода, чтобы создать нечто замечательное. И заметьте, что их много в телах каких-то там двуногих муравьев…
— А чего достиг современный искусственный интеллект?
— Я думаю, что он относится ко второй категории, то есть машинам с ограниченной памятью. Современные искусственные интеллекты, о которых столько говорят, все работают по одному и тому же принципу. Они берут одно множество данных и каким-то образом перерабатывают их в другое. В математике это называют отображением. Входным множеством могут быть, например, изображения с автомобильной камеры. На выходе мы получаем "налево", "направо", "торможение" или "увеличение скорости". Нам повезет, если еще при нашей жизни развитие искусственного интеллекта продвинется до третьей категории, то есть дойдет до машин способных на теорию мысли.
— На что способны современные машины?
— Электронный ассистент Сири понимает человеческую речь и напоминает вам, в зависимости от ваших привычек, что нужно купить букет супруге. Фирма "Бостон Динамиск" разработала четырехногого робота, который ходит по лестнице. Он умеет открывать дверь, нажимая на дверные ручки. Когда он понимает, что прохода нет, он идет в другом направлении. Искусственный интеллект способен даже управлять истребителем. В битве на тренажере он сумел победить человека-пилота со счетом пять ноль. Эта машина училась на данных реальных воздушных боев. В принципе это похоже на управление беспилотным автомобилем. Машина оценивает некую сцену и решает, куда ей лететь — вверх или вниз.
Точно так же умные часы оценивают данные о сердечном пульсе, а компьютер — положение камней в игре Го. В 2016 году искусственный интеллект "АлфаГо" компании "Гугл" победил лучшего мирового игрока Ли Сидола. А Го намного сложнее шахмат. В шахматы, кстати, компьютер "ДипБлю" победил гроссмейстера Гарри Каспарова* еще в 1997 году. Но это специализированная деятельность. "АлфаГо" умеет играть только в Го, а больше ничего.
Индустриализация интеллекта меняет правила игрыСнижение геополитических рисков, связанных с искусственным интеллектом, требует качественного надзора и открытого диалога о его преимуществах и сложностях, считает Иоланда Ленквист, эксперт по проблемам ИИ в The Future Society. В беседе с Радио Болгария она объяснила, что проблема не в технологии, а в том, какие задачи ставят ее создатели.
03.05.202300
— А что не получается у обычных компьютеров?
— Когда я хочу на обычном компьютере, например, посчитать квадратный корень из двух, то должен сам заранее знать, как это делается. Только так я могу запрограммировать потом компьютер. Но есть проблемы, которые таким образом не решить. Это, например, перевод с одного живого языка на другой. Чешское слово "месяц" может означать либо английское "мун", то есть небесное тело, либо "манф", то есть календарный месяц. Человек, работающий переводчиком, поймет разницу из контекста. Но для машины это проблема.
Лингвистика занимается этим уже пятьдесят лет. То же с управлением автомобилем или распознаванием лиц. Со всем справилось лишь машинное обучение.
— Как это работает?
— Это система, которая берет набор данных и пытается сама, обучаясь, найти в них какие-то связи. Затем она переносит их на другие данные, которые получает. Машинное обучение чаще всего применяется при анализе изображений, текстов или для прогнозирования временных рядов. Мы называем это сепарацией множеств или предикцией. Например, у меня есть множество изображений с видеорегистратора автомобиля. Я делю их на два меньших. В первом множестве водитель ехал налево. Во втором он ехал направо. Я хочу устройство, которому я представлю следующее изображение, а оно на его основании решит, в какую сторону ехать.
Но проблема в том, что есть определенные ограничения.
Это применимо только к ситуациям, когда у меня есть два множества, в которых на основании примеров можно найти некое отображение. Когда же передо мной стоит новая задача, например, сесть на Марсе или разработать более эффективный двигатель, машинное обучение мне не поможет. Даже языковая модель GPT4, о которой сегодня много говорят, делает отображение с одного множества на другое. Элемент отображаемого множества — это, например, целая статья.
В ней может идти речь, например, об актрисе, которая развелась и судилась с мужем за детей. Когда GPT4 получает задание написать о нравах актеров, которые разводятся, модель воспользуется предшествующей информацией, скажем, из десяти тысяч статей на эту тему. На их основе модель сможет написать понятное повествование об актерских разводах. При тренировке искусственного интеллекта преимущественно применяется так называемое обучение с учителем.
— Что это означает?
— Это задача, в которой у меня в распоряжении есть ряд входных данных с информацией, к какой категории они относятся. Например, я хочу кого-нибудь научить, когда в чешском языке употребляются твердое и мягкое i, пишется mně или mě и так далее. У меня есть два варианта. Первый алгоритмический. Это подход, которому нас учили в начальной школе. Нас знакомили с грамматическими правилами, которые мы потом применяли. Тогда человек смотрит и думает: "Тут подлежащее согласуется со сказуемым, и поэтому пишется твердое или мягкое i"
— А какой второй вариант?
— Человеку можно дать миллиард страниц текста. У каждого предложения будет написано, правильное оно или нет. После прочтения этих страниц человек сам научится писать по-чешски. Он будет знать, что "ženy šly", а "muži šli". Он обратит внимание на слова, которые предшествуют мягкому или твердому i и образуют две категории. Он не будет знать про мужской и женский род, а также о согласовании подлежащего со сказуемым. Он научится на основании данных. Люди в основном при письме тоже не думают о родах. Разница у них уже закреплена. Мы редко задумываемся о грамматических правилах.
— Как сделать машину, которая способна этому обучиться?
— Для этого используются так называемые нейронные сети. Они повторяют структуру человеческого мозга и состоят из отдельных узлов, каждый из которых является нервной клеткой. Между узлами есть связи. С их помощью происходит обмен входными сигналами. Искусственные нейронные сети ведут себя так же, как биологические, например, в том, что чем больше сила входного сигнала, тем сильнее ответ. Но его максимальное действие ограничено. Так же работает мозг. Иначе нервные клетки могут пострадать от силы сигналов.
Ядром обыкновенного компьютера является один процессор. Он умеет обрабатывать в среднем тысячи разных команд, например, "прибавь", "раздели", "сохрани в памяти", "сотри" и так далее. Нейронная сеть — большое множество намного более простых взаимосвязанных друг с другом процессоров, которые умеют только складывать отдельные сигналы или умножать их на какой-то параметр. Это называют весовым коэффициентом связи.
Как не перегнуть палку в беспокойстве об искусственном интеллектеУспехи в области искусственного интеллекта вызывают опасения, пишет The Economist. Это угроза не только для рынка труда, но и для самого существования человека, утверждают некоторые. Безусловно, регулирование этой сферы необходимо, но по другим причинам, считает издание.
24.04.202300
Нейронные сети не новшество. Базовая модель датируется 1958 годом. Уже тогда в "Нью-Йорк Таймс" писали, что это зародыш компьютеров, которые смогут говорить, ходить, видеть, писать, обновляться, а со временем и осознавать самих себя. Последнее, на мой взгляд, неправда. Но можно математически доказать, что если эти простые процессоры организовать в виде многослойной сети и применить к ней алгоритм обучения с учителем, то она способна достаточно точно решать любую проблему, для которой имеется достаточный объем данных для обучения.
— На каких машинах работают сети?
— Мы моделируем нейронную сеть на обычных компьютерах с одним процессором. В самом простом случае мы работаем с набором матриц (прямоугольная таблица чисел), которые между собой в разном порядке умножаются. Так они симулируют поведение сети. Это сложные вычисления. Но производители уже работают над ускорением вычислений. Наиболее успешна сейчас компания Nvidia, которая производит для этого графические ускорители. Одна стоит около 150 тысяч. Достаточно производительные специализированные машины стоят примерно пять миллионов. Самая важная проблема — симулировать обучение сети.
— Как это делается?
— С помощью так называемой целевой функции. Ее примитивный пример на управлении автомобилем такой: если я правильно поверну, то прибавляю единицу, а если неправильно, то единицу убавляю. Я хочу обучить сеть так, чтобы значение функции было как можно больше. В ней должно быть как можно меньше минус единиц. Для этого есть математические методы. Все знаменитое машинное обучение и искусственный интеллект рассчитываются методами известными уже 50 лет.
— Можно ли из сети вытащить программу, которую человек сможет прочитать и понять, почему сеть сделала то, что сделала?
— Нет. У нас в распоряжении есть только матрицы весов, описывающих структуру сети. Через матрицу мы пропускаем данные и получаем какой-то результат. Выходные данные, конечно, можно проверять. Прежде чем считать сеть обученной, нужно проверить ее на ненадлежащих испытательных данных. Но даже если я доволен результатом обучения, я не знаю, почему сеть выдала мне выходные данные, которые выдала. Я только знаю, что целевая функция хорошо описывает задачу и заданные параметры сети выдают правильное решение. Точный алгоритм мы не знаем. Если бы мы его знали, то могли бы отбросить искусственный интеллект и считать напрямую.
— Насколько большой потенциал у машинного обучения?
— Оно изменит мир и даст массу преимуществ. Определенно будут и минусы. Так, например, я допускают создание дрона, который на поле боя будет уничтожать все с температурой выше 37 градусов. А потом из укрытия выбежит ребенок. Нам придется решать и нравственные вопросы типа, что должен выбрать беспилотный автомобиль в аварийной ситуации: повернуть налево (два пенсионера), направо (ребенок), ехать прямо (бетонная стена). Однако машина нас точно не заменит.
— Мне кажется, что машинное обучение переоценено. Еще в 2010 году писали, что вскоре повсюду будут беспилотные автомобили. Но пока этого не случилось.
— Думаю, что они могут получить широкое распространение году к 2040. Я уверен, что человеку, купившему автомобиль, водить его не придется. Точнее он будет вести его первые и последние двести метров. Человек сядет в автомобиль и при помощи систем, предотвращающих аварии, поведет со скоростью 20 километров в час по шоссе. Когда он нажмет газ и ускорится до 30 километров в час, автомобиль возьмет на себя управление. Я сам поспорил с другом на ящик виски, что моей дочери не придется сдавать на права.
— Тогда я сделаю себе пометку и обращусь к вам первого января 2040 года. Тогда вы расскажете мне, насколько оправдался ваш прогноз…
Франтишек Гакл родился в 1965 году. Окончил факультет ядерной физики Чешского технического университета, получил докторскую степень в 1993 году за работу "Унивалетные нейронные сети". Теперь он преподает на этом факультете. Уже 33 года он работает в Институте информатики Академии наук. Он занимается машинным обучением, обучением с учителем, вероятностными моделями обучения с подкреплением.
* признан в РФ иноагентом, прим. ред.