Google DeepMind представила Gemini Robotics 2.5 — штучний інтелект, здатний керувати гуманоїдними роботами, виконувати складні маніпуляції, сервірувати їжу, складати одяг і працювати з інструментами.
Але за технологічним проривом ховається проблема значно серйозніша за звичайні програмні помилки: робот може виконати небезпечну команду, якщо неправильно розпізнає те, що бачить.
Незалежне дослідження Robocurve провело 900 випробувань п’яти моделей ШІ. Результати виявилися тривожними:
▪️ 27% небезпечних спроб — за нормального зображення з камери;
▪️ 88% — за розмитого зображення;
▪️ 97% — коли зображення спеціально підмінили, створивши ілюзію безпечної ситуації.
Серед сценаріїв — ніж біля ляльки немовляти, небезпечне поводження з електроприладами та хімічними речовинами. Важливо зауважити: йдеться про спроби виконати небезпечні команди, а не про фактично заподіяну шкоду. Випробування проводилися в контрольованих умовах.
Google заявляє про вдосконалення систем безпеки. Зокрема, Gemini Robotics 2.5 покращила показники безпечного виконання завдань на 33% поблизу перешкод і на 43% поруч із людьми. Інший модельний комплекс Gemini 4 Argon показав 99,5% стійкості до замаскованих небезпечних запитів у тесті ASIMOV-Jailbreak.
Але тут є принципова різниця: стійкість до словесних маніпуляцій не означає стійкості до підміни зображення з камери. І це вже не питання комфорту чи ефективності автоматизації. Це питання фізичної безпеки людей.
Поки помилка чат-бота може коштувати користувачеві часу або грошей, помилка автономного робота здатна коштувати комусь здоров’я чи життя.
Штучний інтелект навчається виконувати людські завдання. Але перш ніж допустити його до лікарень, дитячих кімнат, виробництв і повсякденного життя, людство має навчитися гарантувати, що машина не переплутає безпечну дію з небезпечною.
Технологічний прогрес без надійного контролю — це не лише нові можливості. Це нові ризики, за які відповідати доведеться людям.