Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Российский стартап предлагает революционный путь развития ИИ, пишет Wired. Команда математиков разработала технологию "машинной телепатии", которая позволяет нейросетям обмениваться знаниями напрямую через математические веса, минуя текстовые запросы.
Уилл Найт (Will Knight)
У стартапа с названием Mostik совершенно необычный подход к совмещению возможностей моделей искусственного интеллекта.
Недавно я познакомился с группой блестящих российских математиков, показавших мне способ взаимодействия моделей искусственного интеллекта посредством чего-то такого, что сродни машинной телепатии.
Эти математики работают в стартапе под названием Mostik. Это намек на рабочий подход группы, дающий возможность различным моделям взаимодействовать друг с другом с использованием математических значений, связанных с их весом. Это такие вещи, которые определяют, каким образом запрос превращается в результат. На практике это означает, что возможности более крупной модели можно передать маленькой с целью более эффективного наращивания ее интеллекта.
Стартап использовал такой подход при создании модели, которая стремительно вышла вперед в исключительно трудном конкурсе моделей ИИ ARC-AGI 3. (Разработчики отказались поделиться со мной подробностями, потому что хотят одержать победу в этом конкурсе.) Но чтобы продемонстрировать свою идею, они также создали мост между двумя китайскими моделями с открытыми параметрами: самой крупной версией GLM-5.2, у которой 753 миллиарда параметров, и версией Qwen-3.5 на четыре миллиарда параметров, которая может работать на мобильных устройствах. Получившаяся в результате гибридная система стоит в 20 раз дешевле полной модели GLM, а качество ответов у нее будет находиться где-то посередине между результатами исходных моделей.
"В машинном обучении хорошо известно, что сочетания моделей дают лучший результат, чем у индивидуальных моделей", — сообщила мне за чашкой кофе генеральный директор компании Mostik Саша Малышева.
Разработавшая этот подход Малышева рассказала мне анекдот, очень популярный в ее компании. Будущее ИИ похоже на попытку угадать, сколько весит свинья. В математических кругах хорошо известен факт: если собрать оценки нескольких случайных людей, усреднить их, то результат окажется точнее, чем предположение одного эксперта.
Комбинация ответов нескольких моделей ИИ часто дает лучшие результаты, как и коллективная оценка веса свиньи. Обычно для этого ответ одной модели надо передать на вход другой, а на это уходит немало времени и денег. Однако команда стартапа Mostik нашла способ для общения моделей ИИ между собой без генерации текста. Если все получится, это может повысить ценность открытых моделей, а также позволит им результативнее конкурировать с закрытыми фирменными моделями, которые предлагают передовые лаборатории типа Anthropic и OpenAI.
Малышева говорит, что объединение множества моделей может оказаться более эффективным способом для развития искусственного интеллекта. "Я лично не думаю, что у нас в перспективе будет монолитная модель, или что возможности моделей появятся в результате масштабирования", — сказала она, имея в виду стратегию укрупнения моделей с передачей им большего объема данных.
"Если Mostik сумеет объединить передовые модели с конкретными отраслевыми моделями (из области биологии, физики и так далее), то можно будет обучить гораздо больше специализированных моделей, — говорит технический руководитель компании-разработчика программ для ИИ Lovable Владимир Арустамян, который знаком с коллективом Mostik. — Эта команда занимается этой работой всего несколько месяцев, но она уже кое-что запустила, хотя мне раньше казалось, что у нее на это уйдут годы".
"Методика стартапа означает, что можно заниматься качеством большой модели, но большая модель при этом не будет задействовать весь контур целиком, и вы получите существенные улучшения всего лишь за счет параллельной работы маленькой модели", — рассказал бывший программист компании Google DeepMind Карл Туйлс, знакомый с технологией Mostik. Этот метод запросто сможет применить любой, чья задача — добиться максимальной эффективности работы моделей.
Главным научным сотрудником Mostik является профессор Женевского университета и лауреат Филдсовской премии 2010 год Станислав Смирнов. По его словам, найти точки соприкосновения между двумя моделями ИИ исключительно трудно. "Похоже, что пока нет соответствующего математического языка", — говорит он. Между тем, метод стартапа Mostik позволяет заполнить этот пробел.
Смирнов объясняет, что работа компании Mostik позволит узнать много нового о том, как реально функционируют модели ИИ, и как это соотносится с работой человеческого мозга. По словам ученого, более глубокий математический анализ способен раскрыть немало общего в том, как модели ИИ и люди размышляют над трудными задачами.
Во время нашей встречи за кофе Малышева рассказала мне, что математические таланты открылись у нее только после того, как старший брат заявил ей, что она не сумеет решить задачи математической олимпиады, к которой он готовился. Несколько лет спустя она уже училась в одном из лучших вузов Санкт-Петербурга. А недавно коллеги предупредили ее, что применить разработанный ею метод будет слишком трудно.
"Они говорили, что для юной девушки это может оказаться слишком сложно, — сказала Малышева. — А я решила доказать, что они неправы".
