Одна из крупнейших юридических компаний Уолл-стрит Sullivan & Cromwell направила в суд Манхэттена письмо с извинениями за отправку документа, сгенерированного ИИ и полного галлюцинаций. Нейросеть неправильно цитировала закон и выдумывала источники. В компании объяснили инцидент недостаточно тщательной проверкой после генерации.
Юристам в США не запрещается использовать ИИ в работе, однако документы, представленные в суде, должны быть безупречно точными. Как заявил один из руководителей Sullivan & Cromwell Эндрю Дитдерих, в компании действуют «комплексные политики и правила использования ИИ-инструментов в юридической работе», которые в этот раз «не были соблюдены». При проверке документа после генерации ошибок никто не заметил.
В письме не уточняется, какое именно ПО использовалось для подготовки материалов. Позднее фирма подала исправленную версию документа.
Sullivan & Cromwell — одна из крупнейших юридических фирм США. Она насчитывает более 900 юристов и специализируется на сделках слияний и поглощений, корпоративных спорах и вопросах частного капитала.
ссылка на оригинал статьи https://habr.com/ru/articles/1027154/