Sullivan & Cromwell Gửi Lời Xin Lỗi Tòa Án Sau Khi AI Tạo Ra Các Trích Dẫn Pháp Lý Sai

TLDR

• Công ty luật danh tiếng nộp tài liệu tòa án với các trích dẫn do AI bịa đặt

• Sullivan & Cromwell thừa nhận lỗi xác minh trong vụ phá sản

• Sai sót do AI tạo ra làm ảnh hưởng đến hồ sơ nộp tòa án liên bang

• Luật sư đối lập phát hiện án lệ giả mạo trong hồ sơ pháp lý

• Sự cố nhấn mạnh nhu cầu cấp thiết về các quy trình xác thực AI được tăng cường

Ngành luật đang đối mặt với sự giám sát mới về độ tin cậy của trí tuệ nhân tạo sau một sai sót nghiêm trọng từ một công ty luật hàng đầu của Mỹ. Sullivan & Cromwell đã công khai thừa nhận việc nộp một tài liệu tòa án chứa đầy các trích dẫn vụ án do AI bịa đặt và các tham chiếu pháp lý không chính xác. Sự cố này đã thúc đẩy công ty tiến hành một cuộc điều tra nội bộ toàn diện về các biện pháp bảo vệ trí tuệ nhân tạo của mình.

Các trích dẫn giả mạo làm ảnh hưởng đến hồ sơ nộp tòa án liên bang

Công ty luật danh tiếng này đã phát hiện ra những lỗi nghiêm trọng trong một tài liệu phá sản Chương 15 liên quan đến vụ kiện của Prince Group. Các hệ thống trí tuệ nhân tạo đã tạo ra các tham chiếu vụ án hư cấu và phân tích sai các điều khoản trong luật phá sản của Hoa Kỳ. Những nội dung bịa đặt này đã được đưa vào tài liệu trình lên tòa án phá sản liên bang tại New York.

Andrew Dietderich, người giám sát bộ phận tái cơ cấu của công ty, đã tự chịu trách nhiệm cá nhân về những thiếu sót của tài liệu. Ông xác nhận rằng mặc dù công ty có các hướng dẫn sử dụng AI đã được thiết lập, những quy trình này đã không được tuân thủ trong quá trình soạn thảo tài liệu cụ thể này. Tổ chức đã thực hiện các biện pháp khắc phục để tránh tái diễn các sai lầm do AI gây ra trong các hồ sơ pháp lý tiếp theo.

Boies Schiller Flexner, đại diện cho các bên đối lập, đã xác định các sai lệch và đưa chúng ra trước sự chú ý của tòa án. Quá trình kiểm tra của họ cho thấy một số vụ án được tham chiếu hoàn toàn không tồn tại hoặc trích dẫn các phán quyết tư pháp hoàn toàn không liên quan. Do đó, công ty đã nộp phiên bản sửa đổi kèm chú thích xác định rõ ràng các lỗi do AI tạo ra.

Lỗi xác minh làm nổi bật những thách thức mang tính hệ thống của AI

Sự việc này cho thấy những khó khăn phổ biến mà các công ty luật đang đối mặt khi tích hợp trí tuệ nhân tạo để nâng cao năng suất và quản lý khối lượng công việc. Nhiều hãng luật triển khai hệ thống AI để nghiên cứu pháp lý và soạn thảo tài liệu, nhưng các quy trình xác minh không đầy đủ vẫn tiếp tục tạo ra những lỗ hổng. Các chuyên gia pháp lý phải cân bằng giữa hiệu quả vận hành và độ chính xác khi tích hợp AI vào quy trình làm việc của họ.

Sullivan & Cromwell cho biết họ thực thi các chính sách sử dụng AI nghiêm ngặt, bao gồm việc kiểm tra thủ công bắt buộc đối với tất cả các tài liệu do AI tạo ra. Công ty thừa nhận rằng các cơ chế kiểm soát chất lượng đã thất bại trong vụ việc này, cho phép nội dung có lỗi tiến lên mà không bị kiểm tra. Sự cố đã làm gia tăng việc xem xét các khung quản trị trí tuệ nhân tạo trong các bối cảnh pháp lý quan trọng.

Dữ liệu ngành cho thấy tần suất ảo giác AI xuất hiện trong các hồ sơ tư pháp ngày càng tăng, đặc biệt liên quan đến các tiền lệ pháp lý được bịa đặt. Nghiên cứu ghi nhận hơn 1.300 trường hợp như vậy trên toàn thế giới, với phần lớn tập trung tại các tòa án Mỹ. Xu hướng mới nổi này nhấn mạnh sự cấp thiết của các cơ chế xác thực nghiêm ngặt hơn khi triển khai AI trong các quy trình soạn thảo tài liệu pháp lý.

Tác động vượt ra ngoài một sự cố đơn lẻ

Vụ kiện của Prince Group xoay quanh các cáo buộc về các âm mưu gian lận quy mô lớn, bao gồm các hành vi lao động cưỡng bức và sai phạm tài chính. Các công tố viên Hoa Kỳ đã khởi tố cả tố tụng hình sự lẫn nỗ lực tịch thu tài sản liên quan đến hoạt động của tổ chức. Do đó, sự chính xác trong các tài liệu pháp lý trở nên tối quan trọng trong các vụ việc liên quan đến các cáo buộc xuyên quốc gia phức tạp.

Sullivan & Cromwell trước đây đã đại diện cho khách hàng trong các vụ việc nổi bật, bao gồm các thủ tục mất khả năng thanh toán của sàn giao dịch FTX. Công ty tính phí cao cấp và xử lý các vụ tái tổ chức phức tạp trải rộng nhiều thẩm quyền pháp lý. Sự cố liên quan đến AI này đã làm dấy lên những câu hỏi về kiểm soát chất lượng trong các doanh nghiệp pháp lý lớn.

Công ty duy trì cuộc điều tra nội bộ đang diễn ra trong khi đánh giá lại các chương trình giáo dục và khung tuân thủ điều chỉnh việc triển khai trí tuệ nhân tạo. Mục tiêu của họ bao gồm củng cố các biện pháp bảo vệ và nâng cao trách nhiệm trong toàn bộ quy trình soạn thảo tài liệu. Với việc tích hợp trí tuệ nhân tạo ngày càng tăng tốc, ngành luật đang đối mặt với kỳ vọng ngày càng cao về việc đảm bảo độ tin cậy và loại bỏ các sai lầm tốn kém.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.