Ведущая юридическая фирма Уолл-стрит Sullivan & Cromwell принесла извинения федеральному судье после того, как в судебных документах было обнаружено около 40 некорректных ссылок и других ошибок, вызванных использованием искусственного интеллекта. Инцидент произошел при подаче заявления по делу о банкротстве Prince Group.
Эндрю Дитдерих, соруководитель глобальной группы реструктуризации фирмы, направил письмо главному судье Мартину Гленну из Суда по делам о банкротстве Южного округа Нью-Йорка, в котором признал, что фирма несет ответственность за допущенные ошибки. Он пояснил, что существующие процедуры проверки не сработали должным образом.
По словам Дитдериха, внутренние правила использования ИИ в Sullivan & Cromwell предусматривают обязательную проверку всех цитат перед подачей в суд. Однако в данном случае требуемые процедуры не были соблюдены. "К сожалению, этот процесс проверки не выявил неточные цитаты, сгенерированные ИИ, а также другие ошибки, которые, по-видимому, частично возникли из-за ручного ввода", — написал он.
Проблема была обнаружена конкурирующей юридической фирмой Boies Schiller Flexner LLP, которая указала на неточности. Дитдерих лично связался с коллегами, чтобы поблагодарить их и извиниться.
Этот случай пополнил растущий список судебных исков, пострадавших от ошибок ИИ. По данным базы, которую ведет юридический технолог Дэмиен Чарлотин, в мире зафиксировано 1334 случая галлюцинаций ИИ в судебных документах, из них более 900 — в США. Многие из них связаны с вымышленными цитатами.
Sullivan & Cromwell начала внутреннее расследование инцидента и пересматривает необходимость дополнительного обучения или усиления внутреннего контроля. Ранее фирма представляла интересы биржи FTX в деле о ее банкротстве.
