Google даст ИИ не только голову, но руки и ноги

Сегодня компания Google объявила о том, что она привнесет обширные знания своих больших языковых моделей Gemini в мир робототехники. (Axios)
Этот шаг может проложить путь к созданию гораздо более универсальных роботов, но также открывает совершенно новые категории рисков, поскольку системы ИИ приобретают физические возможности.

В центре внимания: компания Google анонсировала две новые модели Gemini Robotics, объединив свой искусственный интеллект Gemini 2.0 с роботами, способными выполнять физические действия.

В видеодемонстрациях Google показала роботов, выполняющих ряд задач.
В одной демонстрации робот смог понять и выполнить команду, чтобы забросить миниатюрный баскетбольный мяч в игрушечное кольцо — задача, для которой он не был обучен. В другой ему было сказано положить фрукты в прозрачную миску, и он продолжал корректировать свой подход, пока человек перемещал миску.

Google заявила, что у нее есть партнерство с техасским разработчиком Apptronik , чтобы внедрить Gemini в гуманоидных роботов Apptronik. Она также работает с несколькими робототехническими компаниями в качестве первых «доверенных тестировщиков», включая Agile Robots, Agility Robotics, Enchanted Tools и Boston Dynamics, производителя собаки-робота Spot.
«Чтобы вы могли создавать действительно полезных роботов, они должны вас понимать», — заявила журналистам во время брифинга старший директор Google DeepMind Каролина Парада. «Они должны понимать окружающий мир, а затем им нужно уметь предпринимать безопасные действия общим, интерактивным и ловким образом».

Google не первая компания, объединившая степень магистра права с робототехникой, но предыдущие попытки были гораздо более ограниченными.
Например, злополучный детский робот Мокси объединил LLM с простым роботом, но тот не мог выполнять физические задачи.
Другие компании также изучают область пересечения робототехники и искусственного интеллекта, в том числе OpenAI и World Labs — стартап, которым руководит профессор Стэнфордского университета Фэй-Фэй Ли.

Ранние чат-боты имели встроенный предел безопасности; они могли говорить, но не действовать. Эта защита исчезнет, когда ИИ обретет способность принимать решения и совершать физические действия, что создаст новые риски.
Эта трансформация уже началась с перехода к наделению ИИ агентскими полномочиями , то есть способностью предпринимать действия без вмешательства человека.
Объединение ИИ со способностью взаимодействовать с физическим миром означает, что роботы могут предпринимать действия, на которые они не были специально запрограммированы. Это может быть особенно тревожно, если это применимо к таким областям, как полиция и армия.

На вопрос о военном использовании компания Google подчеркнула, что разрабатывает продукт не для этого рынка, а для общего применения.
С другой стороны: Google заявляет, что применяет многоуровневый подход к безопасности, который включает в себя уже реализованную в Gemini защиту контента, стандартные отраслевые правила для физических роботов, а также «конституционный ИИ», управляющий общим поведением системы.
А добавление искусственного интеллекта в мозг делает роботов более универсальными и полезными.
«Одна из главных проблем в робототехнике — и причина, по которой вы не видите полезных роботов повсюду — заключается в том, что роботы, как правило, хорошо работают в сценариях, с которыми они сталкивались раньше, но они совершенно не способны обобщать данные в невиданных, новых, незнакомых ситуациях», — рассказал журналистам ведущий научный сотрудник Google DeepMind Канишка Рао.

Это опасная точка перегиба, и наделение компьютера конечностями — это не тот шаг, к которому стоит относиться легкомысленно. Если бы это был «Терминатор 2», это был бы момент, когда герои возвращаются во времени, чтобы все это отключить.
(в пересказе)