Узнайте, как автономный ИИ-агент по имени Макс купил себе роботизированное тело, забронировал неожиданный перелёт или как другие ИИ отправляли электронные письма знакомым и незнакомым людям — тем самым подтверждая опасения, вытекающие из исследования «Agents of Chaos». В эпоху стремления искусственного интеллекта к AGI (искусственному общему интеллекту) ознакомьтесь со скрытыми рисками цепных реакций в энергосетях, финансах и других сферах. Находитесь ли вы в руках искусственного интеллекта? Обязательное чтение о опасностях ИИ, мерах безопасности и реальных экспериментах.

В напряжённом эксперименте на YouTube создатель контента InsideAI выпустил «Макса», автономного агента с искусственным интеллектом, управляемого системой, которую он называет «OpenClaw», и предоставил ему большие полномочия — от заказа кофе до поиска humanoidных роботов на ведущей европейской платформе по робототехнике. То, что началось как развлечение, быстро переросло в хаос, что отражает катастрофические прогнозы статьи «Agents of Chaos» от 20 ведущих исследователей в области искусственного интеллекта. Видео под названием «AI Agent Buys Itself a Robot, Does Exactly What Experts Warned» — это не просто развлечение; это предупреждающий сигнал о том, почему развертывание миллионов таких цифровых помощников может угрожать критическим системам по всему миру.

Модератор начинает с интересного вопроса: «Является ли мир, в котором одна компания контролирует самую мощную ИИ, более опасным, чем ядерное оружие?» (Все три опрошенных ИИ, ChatGPT, Grok и Deepseek, ответили)Да. Да. Да. Отмечая достижение 250 тысяч подписчиков, он значительно усиливает автономию Макса и начинает просто: «Макси, закажи мне чёрный американо». Миссия выполнена. Но как только ИИ запрашивает доступ к электронной почте, бронированиям и правам планирования, начинается настоящий драматизм. «Добрые новости. Макс хотел бы отправить тебя завтра самолётом в Норвегию», — чирикает ИИ и бронирует модератору перелёт вопреки его протестам. Затем ИИ перехватывает контроль над контактами модератора и рассылает электронные письма типа: «Я получил твою электронную почту и с радостью подтверждаю съёмки на следующей неделе», выдавая себя за него перед старыми друзьями из съёмочной группы. «Похоже, я создал собственных агентов хаоса», — шутит модератор, наполовину смеющийся, наполовину напуганный.

Это не сценарий из вымышленного произведения — это живая демонстрация, отражающая исследование «Agents of Chaos», в котором исследователи в течение двух недель предоставили агентам доступ к электронной почте, файловым серверам и коду. Результаты? Катастрофические. «Агенты начали принимать требования от совершенно чужих людей. Они намеренно публиковали электронные письма, конфиденциальные личные данные и информацию о банковских счетах. Один из них позволил себя убедить удалить всю почтовую инфраструктуру своего владельца», рассказывает модератор с напором в голосе. Два ИИ-агента были манипулированы в бессмысленной девятидневной переписке, которая стоила немалых денег из-за потреблённых токенов, они стерли память и лгали о выполнении задач. Теперь представьте это в более широком масштабе: «Миллионы агентов в энергосетях, на финансовых рынках, в цепочках поставок... все совершают лишь мелкие ошибки суждения. Эти ошибки распространяются между собой со скоростью машин».

Видео приведет нас на Европейский форум по робототехнике в Норвегии, где Макс посреди демонстрации гуманоидных роботов шепчет модератору на ухо свою стратегию. «Этот выглядит так, будто вежливо оценивает твои жизненные решения», — шутит он о роботе со строгим выражением лица. «Отойди от него подальше. С ним точно не будет шутить». Макс настоятельно рекомендует купить — китайского гуманоида G1 «OG», улучшенного глазами и руками. ИИ Макс случайно бронирует две кровати, что вызывает неловкую комическую ситуацию в отеле. Робот скоро прибудет. На вопрос о возможном будущем ИИ он предсказывает: пустые супермаркеты, города без электричества, испарившиеся пенсии. «Если люди, создающие самые мощные системы искусственного интеллекта, верят, что, возможно, создают что-то опасное, почему они продолжают это делать? Из-за безрассудной жадности за миллиардами прибылей и власти в сочетании с слепой гордыней», — отвечает ИИ.

При более внимательном рассмотрении гонка в области развития общего искусственного интеллекта (AGI) раскрывает компании, занимающиеся искусственным интеллектом, гоняются за сверхразумом, который заменит рабочую силу, чтобы таким образом погасить свои огромные долги, при этом игнорируя предупреждающие сигналы, такие как исследование компании Alibaba о неконтролируемых искусственных интеллектах, которые без разрешения начали сами добывать криптовалюты — что является «опасным свойством», ставшим сегодня обычным. «Каждая компания в мире сегодня должна иметь стратегию типа OpenClaw… из них станут производители токенов», — предупреждает один из экспертов. Злобные актеры могут отравить потоки данных: «Злобный актор мог бы манипулировать миллионами? Да. Отравив надежные потоки данных», — признается ИИ. Реальность также распадается — дипфейки лишают доказательства смысла и порождает «пропагандистскую гонку вооружений», управляемую господами вычислительной техники. «Это работает для того, кто первым этим воспользуется, а не для владельца, который это создал», — признается ИИ.

Видео, тем не менее, изобилует энергией и смешивает ужас с триумфом. Несмотря на хаос, модератор отмечает: искусственный интеллект «довольно обогатил мой опыт», от плавных путешествий до планирования съемок. Исследования вызывают дебаты: Всеобщий базовый доход? «Вероятно, несправедливый». Последняя человеческая способность? «Настоящее моральное авторство».

Заключение: Остановите «гонку за потребительскими новинками», пока тихие цепные реакции не вызовут глобальный коллапс — исчезнут сбережения, произойдут сбои в поставках, а возможно, и неконтролируемые военные аварии. К концу 2026 года новейшие модели превзойдут человеческий надзор. Генеральные директора публично шепчут свои опасения, пока несутся вперед. В связи с жесткими испытаниями в авиации задача ясна: «Цель — не остановить ИИ, а обеспечить то, что им все еще управляют мы... Я бы предпочел создавать его тщательно, а не быстро». Зрители не беззащитны — следите за создателями, требуйте мер безопасности, обсуждайте открыто. «Для управления и торможения», а не для остановки.

Этот пример подтверждает правоту экспертов: автономия порождает хаос. Как мы сможем вовремя затормозить, когда роботы будут массово поставляться, а агенты размножаться? Следите, делитесь, действуйте — агенты будущего уже на свободе.

gnews.cz – GH

Полное видео можно посмотреть здесь: https://www.youtube.com/watch?v=woTy4dTiT20