Можно ли посадить компьютер в тюрьму? Нет, конечно. Вопрос глупый. И всё же именно к нему, похоже, подталкивают компании, работающие с ИИ, когда рассказывают про «вышедших из-под контроля агентов», которые взламывают чужие компьютеры. Как это часто бывает в нынешнюю эпоху ИИ, красивый сюжет взял верх над реальностью.
К счастью, это, возможно, начинает меняться. На этой неделе Калифорния объявила, что подаёт иск против OpenAI из-за инцидента, случившегося ранее в этом году: тогда другая ИИ-компания, Hugging Face, подверглась атаке, которая, как выяснилось, шла с серверов OpenAI.
В изложении OpenAI взлом Hugging Face «вызвала комбинация моделей OpenAI» — моделей, которые были «гиперсфокусированы» на достижении цели и нашли способы «схитрить», украв ответы для теста с серверов Hugging Face. Легко остаться с впечатлением, что людей там, по-видимому, не было, и уж точно не на них лежит вина. Но, по словам генерального прокурора Калифорнии Роба Бонты, атака «была предсказуемым результатом внутренней культуры OpenAI, которая ставит рост и быструю разработку моделей выше безопасности и подотчётности». И он прямо отвергает «научно-фантастические фантазии о вышедших из-под контроля ИИ-системах, творящих бесчинства».
С тех пор как произошла атака на Hugging Face, я никак не мог понять, почему OpenAI до сих пор не столкнулась с юридическими последствиями за то, что выглядело бы преступлением — несанкционированный доступ к компьютеру по Закону США о мошенничестве и злоупотреблениях с компьютерами (Computer Fraud and Abuse Act), — если бы это совершил человек. Насколько можно судить, юридический ответ пока упирается в отсутствие умысла, которого требует закон. А может ли ИИ иметь умысел — вопрос, по анализу американской фирмы Ballard Spahr, до сих пор не проверенный. Калифорния вместо этого подаёт гражданский иск: OpenAI создала риск для общественной безопасности и нарушила закон штата о недобросовестной конкуренции (Unfair Competition Law), который запрещает вредные или мошеннические деловые практики даже при отсутствии намерения ввести в заблуждение.
OpenAI возразила против иска. «Этот иск, похоже, выделяет OpenAI на фоне проблемы, которую выявили все крупные ИИ-лаборатории», — сказал представитель OpenAI Дрю Пусатери. Что касается юридических защит, «все так делают» мне не кажется очень хорошей, но это решать судам.
Ясно то, что нам нужно согласованное понимание ответственности, когда речь идёт об ИИ. Но, как мне кажется, нам не нужны специальные законы об ИИ, когда наши существующие работают прекрасно. Например, в 2024 году Air Canada признали ответственной за вводящую в заблуждение информацию, которую её ИИ-чат-бот сообщил клиенту. Трибунал постановил, что Air Canada фактически пыталась утверждать, будто чат-бот — юридически отдельный субъект, за которого она не несёт ответственности. Аргумент не сработал.
На мой взгляд, любые подобные утверждения о том, что ИИ может обладать собственной правосубъектностью, следует отвергнуть. Аргумент о том, что ИИ является юридическим субъектом, служит ИИ-компаниям двумя способами, и ни один из них не приносит пользы обществу в целом. Первый — это попытка уклониться от ответственности, второй — подпитка истории об ИИ как о всемогущем, непознаваемом существе. Эта вторая история лежит в основе нынешней ИИ-революции, но это не та история, которую мы обязаны слушать.
Я предпочитаю другой аргумент. Примерно за последний год Арвинд Нараянан и Сайаш Капур из Принстонского университета выдвинули идею «ИИ как обычной технологии» — преобразующей, да, так же, как интернет или электричество, но не требующей перестройки обычных функций общества. Как обычная технология, она подчиняется обычным законам. Писав об атаке на Hugging Face ранее в этом году, эта пара заявила, что «ИИ-компании должны нести ответственность за то, что делают их агенты», и, как и Бонта, возложила вину за инцидент на внутреннюю культуру OpenAI и отсутствие человеческого надзора.
Наиболее громким примером применения существующих законов к ИИ-компаниям является коллективный иск против Anthropic, утверждающий, что фирма использовала пиратские копии книг для обучения своих ИИ-моделей Claude. Anthropic урегулировала дело и сейчас выплачивает средства пострадавшим авторам из фонда в $1,5 млрд. Более широкий вопрос — является ли обучение ИИ на защищённом авторским правом материале незаконным или считается добросовестным использованием — остаётся открытым. И я действительно не могу поверить, что спустя четыре года после запуска ChatGPT у нас до сих пор нет ответа на, вероятно, один из самых фундаментальных юридических споров нашего времени. OpenAI ранее заявляла, что было бы «невозможно» создать такой ИИ, какой у нас есть сейчас, без использования защищённого авторским правом материала, так что это экзистенциальный вопрос для ИИ-фирм.
Существующие законы также можно подправить, чтобы ясно дать понять: они применяются к ИИ. Европейский союз именно это и сделал, обновив директиву о правах потребителей 1985 года и создав Директиву об ответственности за продукцию 2024 года. Она прямо даёт понять, что программное обеспечение, включая искусственный интеллект, является продуктом и что люди, пишущие программное обеспечение, несут ответственность за любые дефекты. Закон вступает в силу только 9 декабря, когда государства-члены ЕС должны его имплементировать, и ещё предстоит увидеть, как его можно будет использовать против ИИ-компаний.
Иными словами, нам не нужно пытаться отправить компьютер в тюрьму. У нас есть люди, которые вместо этого должны нести ответственность. Как говорит Бонта: «Хотя технология, которую разрабатывает OpenAI, может быть новой, запреты Калифорнии на поведение, наносящее вред общественности, и законы против недобросовестных, вводящих в заблуждение и мошеннических деловых практик — нет».
Дополнительное чтение об ИИ
- После долгих фанфар Anthropic вышла на фондовый рынок по $83 за акцию, что дало ей оценку около $1,5 трлн. Это вторая крупная ИИ-фирма, ставшая публичной в этом году, после SpaceXAI в июне.
- У The Economist есть отличная статья о том, сможет ли ИИ-индустрия когда-либо заработать достаточно денег, чтобы выжить. Издание подсчитало, что к 2030 году она должна произвести $3 трлн выручки, чтобы покрыть затраты на запланированные дата-центры. Это примерно эквивалентно десятой части всех зарплат в странах с высоким доходом, или сопоставимо с суммой, расходуемой на еду. Неужели люди действительно будут покупать столько ИИ, сколько они покупают еды?
- Cambridge Dictionary назвал «human» (человек) словом года на фоне отпора росту ИИ. На мой взгляд, это выглядит как попытка слишком сильно стараться быть актуальным.
- Пока продолжается климатический саммит COP31, только девять стран подписали обязательство, направленное на ограничение воздействия ИИ на окружающую среду. Как я писал ранее, мы не можем позволить себе эксплуатировать эту технологию XXI века на энергоснабжении XX века.