Bloomberg: США разбомбили иранскую школу из-за ошибки ИИ
Агентство провело расследование, в результате которого пришло к выводу, что удар по школе для девочек в иранском Минабе, где погибли более 150 человек, включая 123 ребёнка, стал следствием преступной халатности Пентагона. Внутреннее расследование выявило каскад ошибок: устаревшие разведданные, семилетней давности спутниковые снимки и слепая вера в искусственный интеллект системы Maven Smart System от Palantir.
«Две ракеты Tomahawk поразили здание начальной школы Shajarah Tayyebeh и её территорию в ту субботу, убив более 150 человек, включая как минимум 123 детей. По детским жертвам это самая смертоносная ошибка американского военного наведения в XXI веке», — пишет Bloomberg.
Издание отмечает, что школа была построена на земле, которая ранее относилась к военному объекту КСИР, однако ещё в 2017 году территория была отгорожена стеной и с тех пор открыто функционировала как учебное заведение. Спутниковые снимки 2018 года показывают ярко раскрашенные стены, футбольное поле и детскую площадку. Но Пентагон не обновил классификацию объекта.
«Хотя объект в Минабе был идентифицирован годами ранее как военный, имелись явные доказательства того, что он был изменён и претерпел смену назначения. Физические изменения, отражающие новое строительство — видимые на спутниковых снимках — датируются почти десятилетней давностью, и объект открыто функционировал как школа», — подчёркивает Bloomberg.
Особую роль в трагедии сыграла система Maven Smart System, разработанная Palantir Technologies. Этот ИИ-комплекс, объединяющий более 150 источников данных, должен был помогать военным принимать решения. Однако персонал Centcom ошибочно полагал, что система сама выявит устаревшую информацию.
«Некоторые сотрудники Centcom слишком полагались на искусственный интеллект, встроенный в Maven Smart System. Они ожидали, что Maven пометит устаревшую информацию или несоответствия в разведданных. Неясно, почему у них были такие ожидания», — отмечает издание.
Представитель Palantir заявил, что компания «не несёт ответственности за исходные данные и выявление разведывательных недостатков», и что нет доказательств вины её программного обеспечения.
При этом Bloomberg указывает на ключевой фактор: глава Пентагона Пит Хегсет демонтировал большинство подразделений по снижению гражданского ущерба (CHM), сократив их штат примерно на 90% — с сотен до менее чем 20 человек. Команда Centcom была сокращена с 10 до 1 сотрудника. Ни один член CHM не проверял объект в Минабе перед ударом.
Расследование ООН пришло к выводу, что имеются «разумные основания полагать», что удар по Минабу и другая атака США в тот же день являются военными преступлениями. США до сих пор публично не признали ответственность за удар по школе.
«Женевская конвенция гласит, что вы должны принять все возможные меры, чтобы определить, что это действительно военный объект. Это не означает, что каждая ошибка — военное преступление, потому что ошибки будут допущены, даже если вы примете все возможные меры. Но если все возможные меры не были приняты, то это поднимает вопрос об уголовной ответственности», — заявил Блумбергу юрист Пайам Ахваван, практикующий в Международном уголовном суде.