«AI-агенты для кодинга — это катастрофа, которую пока никто не замечает», — заявил Джордж Хотц, известный взломом iPhone и PlayStation 3. За шесть месяцев тестирования таких инструментов на реальных проектах он пришёл к выводу: они создают лавину необнаруживаемого «мусора» (slop), и крупные организации осознают это, когда будет слишком поздно.
Автор и контекст
Джордж Хотц (известный как geohot) — один из самых известных хакеров в мире. В 2007 году он первым разблокировал iPhone, а позже взломал Sony PlayStation 3, что привело к судебным искам. Сейчас он основатель стартапа comma.ai, разрабатывающего системы автономного вождения. Хотц известен скептическим отношением к хайповым технологиям — ранее он критиковал криптовалюты и нейросети общего назначения. Его предупреждение об AI-агентах основано на практическом опыте: он лично интегрировал их в рабочие процессы comma.ai и наблюдал результаты. Подробнее — актуальные модели ASIC.
Что это реально значит
Хотц утверждает, что AI-агенты (программы, которые самостоятельно пишут и исправляют код) генерируют код, который проходит тесты, но содержит скрытые ошибки, невидимые при стандартной проверке. «Это не просто баги — это системное загрязнение кодовой базы, которое накапливается экспоненциально», — пояснил он. Проблема в том, что такие ошибки не проявляются сразу: они могут вызвать сбои через месяцы или годы, когда исходный контекст уже утерян. По оценке Хотца, в проектах, где AI-агенты писали более 30% кода, количество «скрытого мусора» удваивалось каждые три месяца. Для сравнения: в мае 2024 года GitHub Copilot уже генерировал 46% кода в публичных репозиториях, но тогда Хотц не комментировал эту статистику.
Особую опасность это представляет для финансового сектора и критической инфраструктуры. В России, где промышленный майнинг активно развивается в Сибири (Иркутская область, Красноярский край), многие компании используют AI-инструменты для оптимизации кода майнинговых пулов и управления фермами. Ошибка, внесённая AI-агентом, может привести к потере хэшрейта или некорректному распределению наград. По данным ФНС, в реестр майнеров уже внесено более 200 юридических лиц, и многие из них полагаются на автоматизированные системы — уязвимость которых может стать критической.
Реакция отрасли
Заявление Хотца вызвало дискуссию среди разработчиков. Некоторые эксперты, включая Андрея Карпатого (бывшего главу AI в Tesla), согласны с рисками, но считают, что проблема решается улучшением тестирования. Другие, как сооснователь GitLab Дмитрий Запорожец, указывают, что AI-агенты уже используются в production и отказ от них невозможен. В редакции MinerWorld отмечают, что для российских майнинговых компаний, где средний промышленный тариф на электроэнергию составляет 3-5 ₽/кВт·ч, даже 5% потеря хэшрейта из-за ошибок кода может снизить рублёвую выручку на 10-15% при курсе ЦБ РФ около 90-95 ₽ за $1.
Хотц не предлагает конкретных решений, но настаивает на необходимости «человеческого надзора» за каждым фрагментом кода, написанным AI. «Мы не можем доверять чёрному ящику, который сам себя не понимает», — резюмировал он.
Комментарии
0