Tóm tắt buổi AMA của Sam Altman về thỏa thuận gây tranh cãi giữa OpenAI và Bộ Quốc phòng

Vào đêm muộn thứ Sáu, khi căng thẳng địa chính trị bùng phát thành xung đột công khai ở Trung Đông, Sam Altman đã đăng bài trên X để công bố một thỏa thuận mà nhiều người trong cộng đồng công nghệ từ lâu đã lo ngại, nhưng ít ai mong đợi nó sẽ xảy ra đột ngột như vậy.

OpenAI đã chính thức ký thỏa thuận với Bộ Chiến tranh Hoa Kỳ (DoW) để triển khai các mô hình tiên tiến của mình trong các mạng lưới mật nhất, nhạy cảm nhất của quân đội. 

Thông báo này đã kích hoạt một cơn bão dữ dội ngay lập tức. Chỉ trong vài phút, chuỗi bài viết đã trở thành chiến trường của các hashtag "Cancel ChatGPT", những câu hỏi gay gắt từ các chuyên gia an ninh quốc gia và những cáo buộc kích động về việc bán rẻ tương lai của nhân loại.

Đối với một công ty được thành lập trên nguyên tắc đảm bảo AGI mang lại lợi ích cho toàn nhân loại, sự chuyển hướng để trở thành nhà thầu quốc phòng chính cảm giác như một sự thay đổi kiến tạo trong bối cảnh đạo đức của ngành.

Bối cảnh cho sự chuyển hướng đột ngột này cũng kịch tính như chính thỏa thuận. Chỉ vài giờ trước thông báo của Altman, Tổng thống Donald Trump đã ban hành một sắc lệnh hành pháp toàn diện yêu cầu tất cả các cơ quan liên bang ngay lập tức ngừng sử dụng công nghệ từ Anthropic, đối thủ chính của OpenAI.

Bộ trưởng Chiến tranh Pete Hegseth đã gắn nhãn Anthropic là "rủi ro chuỗi cung ứng đối với an ninh quốc gia", một chỉ định thường được dành cho các đối thủ nước ngoài như Huawei.

Anthropic được cho là đã từ chối cấp cho Lầu Năm Góc quyền truy cập vô điều kiện vào các mô hình Claude của mình, nhấn mạnh vào các "giới hạn đỏ" trong hợp đồng sẽ cấm sử dụng công nghệ cho giám sát hàng loạt trong nước hoặc vũ khí sát thương tự động hoàn toàn.

Sam Altman, CEO của OpenAI

OpenAI đã bước vào khoảng trống do sự rời đi của đối thủ để lại. Trong khi chính quyền yêu cầu các mô hình AI phải có sẵn cho "tất cả các mục đích hợp pháp", OpenAI đã định hình sự tham gia của mình không phải như một sự đầu hàng mà như một thỏa hiệp tinh vi. 

Trong buổi Ask Me Anything (AMA) của mình, Altman khẳng định rằng OpenAI đã đảm bảo các biện pháp bảo vệ an toàn giống như Anthropic đã tìm kiếm nhưng đạt được chúng thông qua cách tiếp cận đa tầng thay vì một tối hậu thư.

Bằng cách đồng ý làm việc trong các khuôn khổ pháp lý hiện có, viện dẫn Tu chính án thứ Tư và Đạo luật Posse Comitatus, OpenAI đã hiệu quả giảm leo thang một cuộc đối đầu đã đe dọa để quân đội Hoa Kỳ không có khả năng AI tiên tiến trong một cuộc chiến tranh đang diễn ra.

Những điểm nổi bật chính từ chuỗi bài viết của Altman của OpenAI

Chuỗi bài viết nhanh chóng chuyển từ PR doanh nghiệp sang một cuộc tranh luận thô về đạo đức của chiến tranh AI. Một trong những câu hỏi được thích nhiều nhất đề cập đến sự thay đổi cơ bản trong sứ mệnh của OpenAI: tại sao chuyển từ "cải thiện con người" sang hợp tác quốc phòng?

Câu trả lời của Altman mang tính thực dụng đặc trưng: "Thế giới là một nơi phức tạp, lộn xộn và đôi khi nguy hiểm. Chúng tôi tin rằng những người chịu trách nhiệm bảo vệ đất nước nên có quyền truy cập vào các công cụ tốt nhất hiện có."

Altman đã nêu chi tiết các biện pháp bảo vệ kỹ thuật được thiết kế để ngăn AI trở thành kẻ hành quyết tự động. 

Chúng bao gồm chiến lược triển khai "chỉ trên đám mây", ngăn các mô hình được nhúng trực tiếp vào các thiết bị biên hoặc phần cứng vũ khí, và triển khai "Kỹ sư Triển khai Thực địa" (FDE) để giám sát việc sử dụng mật. 

Tuy nhiên, chuỗi bài viết vẫn còn hoài nghi. Các nhà phê bình đã chỉ ra một Ghi chú Cộng đồng nhấn mạnh rằng theo Đạo luật USA PATRIOT Act, "sử dụng hợp pháp" vẫn có thể bao gồm thu thập dữ liệu rộng lớn.

Khi được hỏi về xác suất AI gây ra thảm họa toàn cầu, Altman đã ngắn gọn một cách không đặc trưng, cho rằng hợp tác an ninh quốc gia thực sự có thể giảm rủi ro bằng cách giữ cho nhà nước và các nhà phát triển trên cùng một trang.

Một trong những trao đổi tiết lộ nhất liên quan đến quản trị. Khi được hỏi liệu chính phủ liên bang có thể cuối cùng quốc hữu hóa OpenAI hay không, Altman thừa nhận, "Tất nhiên tôi đã nghĩ về điều đó, nhưng nó không có vẻ rất có khả năng trên quỹ đạo hiện tại."

Sự thừa nhận này đã làm rất ít để xoa dịu những người coi việc đổi thương hiệu Bộ Chiến tranh và đưa Anthropic vào danh sách đen là những bước đầu tiên hướng tới một AGI do nhà nước điều hành.

Đạo đức, tiền lệ và mất kiểm soát

Ý nghĩa của thỏa thuận này mở rộng xa hơn một hợp đồng đơn lẻ. Bằng cách chấp nhận chỉ định rủi ro chuỗi cung ứng của đối thủ cạnh tranh, OpenAI đã ngầm xác nhận một thế giới nơi chính phủ có thể chọn người thắng và người thua dựa trên cam kết ý thức hệ của một công ty đối với tiện ích quân sự.

Điều này đặt ra một tiền lệ đáng sợ, như thậm chí Altman đã thừa nhận, nơi các công ty tư nhân có thể cảm thấy bị áp lực phải hạ thấp các biện pháp bảo vệ đạo đức của họ để tránh bị gắn nhãn là mối đe dọa an ninh quốc gia.

Từ quan điểm đạo đức, yêu cầu con người trong vòng lặp vẫn là điểm gây tranh cãi nhất.

Trong khi OpenAI nhấn mạnh rằng con người sẽ giữ trách nhiệm về việc sử dụng vũ lực, các chuyên gia quốc phòng trong chuỗi bài viết đã lưu ý rằng chính sách hiện tại của DoW (Chỉ thị 3000.09) nổi tiếng là mơ hồ về những gì tạo thành kiểm soát của con người có ý nghĩa trong chiến đấu kỹ thuật số tốc độ cao. 

Sam Altman

Nếu một AI xử lý dữ liệu nhắm mục tiêu nhanh hơn con người có thể chớp mắt, liệu con người có thực sự trong vòng lặp hay chỉ là dấu cao su cho quyết định của máy móc?

Rủi ro mất kiểm soát AGI không còn là mối lo ngại lý thuyết cho tương lai xa xôi; đó là câu hỏi về cách các mô hình này sẽ hành xử trong môi trường chiến tranh mật có cược cao.

Đọc thêm: OpenAI huy động kỷ lục 110 tỷ đô la từ Amazon, NVIDIA và SoftBank để thúc đẩy AI

Khi AMA kết thúc, hình ảnh của Altman trong ký ức của người dùng OpenAI không phải là của một nhà tư tưởng công nghệ mộng mơ, mà là của một nhà ngoại giao kỹ thuật số điều hướng một thế giới quyền lực cứng rắn. 

Ông đã rời chuỗi bài viết với một kết luận làm tỉnh ngộ: kỷ nguyên phát triển AI trung lập đã kết thúc. Quyết định của OpenAI tích hợp với Bộ Chiến tranh đánh dấu sự khởi đầu của một chương mới nơi AGI được coi là tài sản chiến lược của nhà nước, thay vì một lợi ích công cộng toàn cầu.

Bài đăng Tóm tắt AMA của Sam Altman về thỏa thuận gây tranh cãi của OpenAI với Bộ Chiến tranh lần đầu xuất hiện trên Technext.