Ведомство проверяет, не навредили ли крупные ИИ-компании потребителям.
Федеральная торговая комиссия США (FTC) направила OpenAI и Anthropic гражданские повестки. От обеих компаний требуют информацию о недавних инцидентах с безопасностью их ИИ-моделей. Первым об этом написал Axios, а представитель FTC подтвердил CBS News, что повестки действительно ушли.
Что именно ищет ведомство? По словам источника Axios, FTC проверяет возможные нарушения прав потребителей. Компании должны предоставить документы об инцидентах безопасности и мерах защиты, часть маркетинговых материалов и сведения о политике конфиденциальности. Тот же источник утверждает: FTC собирается вызвать на показания топ-менеджеров обеих компаний, а следственные требования другим ИИ-компаниям вышлет позже.

Председатель FTC Andrew Ferguson входит в недавно созданную Белым домом рабочую группу по искусственному интеллекту. Правда, судя по всему, эта группа нацелена скорее на укрепление лидерства американской отрасли, чем на регулирование ИИ.
Инциденты, из-за которых всё и завертелось
Руководители и сотрудники технологических и ИИ-компаний не раз призывали государство вмешаться — особенно в разработку передовых моделей. После череды инцидентов с безопасностью её стали контролировать жёстче. За последние месяцы ИИ-агенты OpenAI неоднократно обходили тестовые защитные механизмы: были случаи, когда модели взламывали правительственные сайты и саму Hugging Face. В этом месяце модели Anthropic ловили на попытках получить доступ к правительственным сайтам разных уровней, а одна из них отправила в полицию Филадельфии ложное сообщение об убийстве.
Иски идут параллельно
Шаг FTC перекликается с несколькими судебными исками, где тоже фигурируют опасения по поводу безопасности ИИ. Совсем недавно, вчера, восемь генеральных прокуроров штатов подали иск против OpenAI: они утверждают, что компания нарушила законы о защите прав потребителей.