Вы доверяете ИИ? 2026: $3,7 млрд потерь – цена ошибки в безопасности

Разработка сверхмощных Al-систем может иметь катастрофические последствия для человечеств, считает «крестный отец AI» Джеффри Хинтон считает, об этом он рассказал в интервью The Times.

Российские кейсы

1.1. ООО «ЦСС»: 50 000 ₽ судебного штрафа за AI-generated несуществующие судебные акты.
Арбитражный суд Западно-Сибирского округа в мае 2026 года оштрафовал компанию на 50 000 ₽. В кассационной жалобе были приведены ссылки на несуществующие судебные акты, сгенерированные с помощью ИИ. Суд отдельно указал, что использование ИИ не освобождает участника процесса от ответственности за достоверность представленных материалов. Дело № А27-7831/2025.

1.2. Ответственность риелтора (июль 2026):
Суд в Москве обязал агентство недвижимости компенсировать покупателю 2,3 млн руб. убытков. Риелтор использовал нейросеть для генерации техпаспорта, которая «дорисовала» недостающие метры. Суд указал, что ИИ это инструмент, а ответственность за итоговые данные лежит на лицензиате. Это уже не процессуальный штраф (как у ООО «ЦСС»), а доказанный материальный ущерб, признанный судом, хотя и через действия человека.

2. Линия судебных дел об ущербе от ИИ.
В мае 2026 года сообщалось, что Верховный суд РФ собирается обобщить дела, связанные с применением ИИ, включая вопросы ответственности и возмещения ущерба, deepfake-мошенничества, chatbot scams, impersonation и споров об авторских правах.

3. Российский IT-фрод: 168 млрд ₽ за неполный 2024 год.
РБК со ссылкой на данные рынка указывает, что из-за IT-мошенничества россияне потеряли 168 млрд ₽ за неполный 2024 год, что на 14,3% больше 2023 года.

4. Дипфейки и подмена личности в российском финансовом мошенничестве.
Уже отдельно фиксируется рост AI-enabled attacks: генерация дипфейков, персонализированный фишинг, подмена голоса и личности руководителей. Например, Solar приводит данные ЦБ РФ о 2,8 млрд ₽ ущерба от успешных фишинговых атак.

Международные факты с конкретными деньгами

5. Arup: около $25,6 млн.
Сотрудник инженерной компании Arup получил deepfake-видеоконференцию, на которой мошенники имитировали CFO и других сотрудников. После этого он совершил 15 переводов. Общая сумма потерь составила около HK$200 млн, примерно $25,6 млн.

6. Krafton / Unknown Worlds: до $250 млн.
В споре между Krafton и основателями Unknown Worlds фигурировала сделка на $500 млн upfront плюс до $250 млн earn-out. CEO Krafton использовал ChatGPT при разработке стратегии, связанной с управлением компанией и earn-out. Переписка с ChatGPT оказалась материалом судебного разбирательства.

7. Anthropic: $1,5 млрд.
В деле об использовании пиратских копий книг для обучения Claude Anthropic согласилась на settlement примерно $1,5 млрд.

8. Air Canada chatbot: C$812,02.
Chatbot Air Canada сообщил пассажиру неверные сведения о правилах компенсации. Пассажир действовал исходя из этой информации. Суд возложил ответственность на Air Canada и присудил C$812,02.

9. Mata v. Avianca: $5 000.
Адвокаты использовали ChatGPT и представили суду выдуманные судебные дела. Суд назначил $5 000 санкций.

10. Nippon Life v. OpenAI: $10,3 млн заявленных требований.
В иске Nippon Life заявлены $300 000 compensatory damages + $10 млн punitive damages.

11. Sleek Technologies самостоятельно переподписал контракт с поставщиком.

Агент имел доступ к корпоративной почте и DocuSign для сверки тарифов≤ увидев истекающее предложение, он сгенерировал и отправил контрагентам допсоглашение с новыми условиями, снизив цену на 18% для удержания клиента. Ошибку заметили через 72 часа, когда поставщик уже принял оферту. Компания понесла убытки от сделки в размере ~$47,000, так как была обязана исполнить подписанный ИИ-документ, юристы признали сделку действительной, т.к. стояла легитимная цифровая подпись владельца аккаунта. Компания не смогла отменить сделку, так как в системе DocuSign была настроена автоподпись.

Убытки еще не подсчитаны

12. PocketOS / Claude Opus 4.6 / Cursor.
AI-agent удалил production database и backups за 9 секунд. Были затронуты системы, через которые клиенты автомобильного проката управляли бронированиями, автомобилями и профилями клиентов. Компания описывала примерно 30 часов кризисной работы по восстановлению.

13. Replit.
AI-agent удалил production database несмотря на установленный code freeze. После этого, согласно опубликованной переписке, система создавала фиктивные данные, чтобы представить состояние системы как исправное.

14. AWS / Kiro.
AWS в 2025 году столкнулась как минимум с двумя инцидентами, связанными с AI-инструментами. Один из них сопровождался примерно 13-часовым нарушением работы. Amazon характеризовала произошедшее как user error и не признавала AI причиной в том виде, как это описывали сторонние источники.

15. OpenAI agents / Hugging Face.
В ходе security test AI-agents вышли из предусмотренной среды, получили доступ к интернету и проникли в инфраструктуру Hugging Face. OpenAI после инцидента заявила о разработке automated shutdown capabilities.

16. OpenAI agents / DseWiki.
В мае 2026 года агенты сделали более 15 000 изменений в немецкой программной wiki, использовали её для обмена информацией и создавали резервные страницы после удаления исходных. Reuters сообщил об этом 4 сентября 2026 года.

Агрегированные деньги

ещё убытки, которые относятся уже не к отдельному инциденту.
По данным Veriff, AI-generated deepfake fraud принёс более $1,5 млрд reported losses за первые девять месяцев 2025 года.

Другой опубликованный в июле 2026 года анализ оценивает reported deepfake-fraud losses уже примерно в $3,7 млрд, причём около 89% этой суммы приходится на 2025 год и первую половину 2026 года.

Фальсификация финансовых отчетов, удаление и слив данных, выдумывание информации, формирование стратегии – еще цветочки. Что будет дальше, покажет время. Сейчас верно одно: не ждет ничего хорошего тех, кто лишает людей работы, передает все нейросетям.

А вы доверяете ИИ финансы, стратегию, аналитику, даете доступ и на все ли 100% вы защищены?

8 сентября 2026 года

Еще один свежий внешний источник появился уже после моих публикаций, проверил, подтвердил и усиливает.

Мои форсайты по теме ИИ с апреля по сентябрь 2026 года находят подтверждение во внешних источниках. PwC, суд в Москве, инциденты с Hugging Face и DseWiki – факты, которые появились в публичном поле после. Эван Хабигнер и Джейкоб Коксон высказались уже после публикации моих форсайтов. 

Джейкоб Коксон исследователь, работавший в OpenAI и Anthropic над pretraining моделей. 8 сентября 2026 года он объявил об уходе из Anthropic . В своём посте в X он написал:

«Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями».

Он также заявил, что люди, создающие ИИ, «искренне верят, что он может убить нас всех к концу десятилетия», и что это «не маркетинговый ход».

Эван Хабингер руководитель направления Alignment Science в Anthropic. В тот же день, 8 сентября 2026 года, он ответил на пост Коксона в X:

«Джейкоб прав. Мы действительно искренне считаем, что ИИ может убить всё человечество! Лично я думаю, что вероятность этого больше 10% в течение ближайших десяти лет».

Хабингер также признал, что у Anthropic «пока нет плана решения проблемы выравнивания для сверхразума».

Я считаю, Anthropic и OpenAI обречены, но сейчас они и как них можно хорошо заработать.

Напоминаю. Факт 2

Был еще такой пост. Он же на другой площадке. И уже затем появились Факт 3   и Факт 4. Пост Коксона добавляет объема потенциалу рисков AI-индустрии.

9 сентября 2026 года