Американская юридическая фирма Sullivan & Cromwell оказалась в неловкой ситуации: искусственный интеллект «нафантазировал» ложные ссылки и другие ошибки, которые в итоге попали в официальный судебный документ. Эндрю Дитдерих из Sullivan & Cromwell публично признал произошедшее и принёс извинения.
По его словам, в компании существуют внутренние политики по использованию ИИ, специально разработанные для того, чтобы предотвращать подобные казусы — некорректные цитаты, несуществующие ссылки и прочие типичные «галлюцинации» языковых моделей. Проблема в том, что на этот раз установленные процедуры попросту не были соблюдены.
Случай с Sullivan & Cromwell — далеко не первый в юридической практике. Похожие истории уже случались с другими фирмами: юристы доверялись выводам ИИ без должной проверки, а потом обнаруживали в документах ссылки на дела, которых никогда не существовало. Суды реагируют на подобное крайне болезненно.
Этот инцидент наглядно показывает: даже в крупных и уважаемых организациях с формально прописанными правилами работы с ИИ человеческий фактор никуда не девается. Пока модели склонны к галлюцинациям, финальная проверка любого юридически значимого текста должна оставаться за живым специалистом — и никак иначе.
Источник: cointelegraph.com