Anthropic kêu gọi cơ chế toàn cầu để “đạp phanh” AI

Anthropic, công ty đứng sau mô hình Claude, đang tạo ra một làn sóng tranh luận lớn khi đề xuất thế giới cần chuẩn bị một cơ chế toàn cầu có thể tạm thời làm chậm hoặc dừng phát triển AI nếu công nghệ này tiến quá nhanh và vượt khỏi khả năng giám sát của xã hội.

Đề xuất này không nhằm “đóng băng” toàn bộ ngành AI, mà là xây dựng một phanh khẩn cấp để các chính phủ, phòng thí nghiệm và tổ chức nghiên cứu có thể phối hợp hành động khi rủi ro tăng cao. Tuy nhiên, ngay lập tức, ý tưởng này đã chia giới chuyên gia thành nhiều luồng quan điểm trái ngược.

Vì sao Anthropic lo ngại về tốc độ tiến hóa của AI?

Theo Anthropic, AI tiên tiến hiện nay không còn chỉ là công cụ hỗ trợ con người. Trong nhiều trường hợp, hệ thống AI đã tham gia trực tiếp vào quá trình xây dựng chính nó. Đây là điểm khiến công ty đặc biệt quan ngại.

Với Claude, Anthropic cho biết mô hình này có thể:

• Viết mã nguồn phần mềm;
• Sửa lỗi trong hệ thống;
• Hỗ trợ nghiên cứu kỹ thuật;
• Thực hiện nhiều nhiệm vụ lập trình và phát triển sản phẩm.

Đáng chú ý, công ty tiết lộ rằng đến tháng 5, hơn 80% mã tích hợp vào cơ sở mã của Anthropic do Claude viết. Điều này cho thấy AI không chỉ đang hỗ trợ mà còn bắt đầu trở thành một phần trung tâm trong quá trình phát triển AI.

Từ đó, Anthropic cho rằng thế giới đang bước vào một vòng lặp mới: AI giúp tạo ra AI mạnh hơn, rồi phiên bản mới lại tiếp tục làm tăng tốc quá trình này. Nếu không có giới hạn phù hợp, nhịp độ phát triển có thể vượt quá khả năng theo dõi và kiểm soát của con người.

“Tự cải tiến đệ quy” là gì và vì sao gây lo ngại?

Một trong những khái niệm được Anthropic nhấn mạnh là tự cải tiến đệ quy. Đây là viễn cảnh trong đó AI có thể tự thiết kế, xây dựng và huấn luyện các phiên bản mạnh hơn của chính nó mà không cần con người can thiệp nhiều.

Jack Clark, đồng sáng lập Anthropic, cho rằng trong tương lai gần, có thể xuất hiện tình huống mỗi phiên bản Claude mới được tạo ra bởi phiên bản trước. Nếu điều này trở thành hiện thực, tốc độ phát triển của AI có thể tăng theo cấp số nhân và vượt xa khả năng quản trị hiện tại.

Đó là lý do Anthropic cho rằng cần có một cơ chế can thiệp sớm trước khi AI tiến đến mức khó kiểm soát.

Đề xuất cơ chế “tạm dừng AI” được xây dựng như thế nào?

Anthropic không kêu gọi dừng AI hoàn toàn. Thay vào đó, công ty muốn xây dựng một cơ chế sẵn sàng làm chậm hoặc tạm tạm dừng việc phát triển các mô hình AI tiên tiến nhất trong những thời điểm nhạy cảm.

Mục tiêu của cơ chế này là:

• Giúp các cấu trúc xã hội có thời gian thích nghi;
• Đảm bảo nghiên cứu an toàn AI không bị tụt lại sau tốc độ phát triển của công nghệ;
• Tạo một khuôn khổ phối hợp quốc tế khi xuất hiện dấu hiệu rủi ro lớn.

Anthropic hình dung cơ chế này giống các thỏa thuận kiểm soát vũ khí hạt nhân: các quốc gia và phòng thí nghiệm hàng đầu cùng thống nhất tiêu chí, ngưỡng cảnh báo và điều kiện để kích hoạt việc làm chậm hoặc tạm dừng.

Tuy nhiên, vấn đề nằm ở chỗ AI là công nghệ có tính phổ biến cao và có thể phát triển trên nhiều hạ tầng khác nhau.

Những khó khăn lớn trong việc thực thi

Ngay cả Anthropic cũng thừa nhận rằng việc triển khai cơ chế này sẽ rất khó. Lý do là các trung tâm dữ liệu có thể được đặt ở nhiều nơi trên thế giới, còn hoạt động phát triển mô hình lại khó giám sát như những hệ thống quân sự hay hạt nhân.

Điều đó đồng nghĩa với việc nếu không có sự phối hợp quốc tế đủ mạnh, một cơ chế “phanh khẩn cấp” có thể chỉ tồn tại trên lý thuyết. Trong thực tế, các công ty vẫn có thể tiếp tục chạy đua để tạo ra mô hình mạnh hơn.

Giới chuyên gia phản ứng ra sao?

Đề xuất của Anthropic lập tức tạo ra hai phe rõ rệt: một bên cho rằng đây là cảnh báo cần thiết, bên còn lại cho rằng rủi ro đang bị thổi phồng và quy định quá chặt sẽ bóp nghẹt cạnh tranh.

Nhóm ủng hộ: cần quản lý AI chặt chẽ hơn

Một số chuyên gia đồng tình rằng AI đang phát triển quá nhanh và cần được đặt trong khuôn khổ quản lý nghiêm ngặt hơn. Mitt Romney cho rằng việc bảo vệ AI nên là ưu tiên cấp bách, bởi các rủi ro tiềm tàng bao gồm:

• Vũ khí AI;
• Mầm bệnh được tăng cường bằng công nghệ;
• Thất nghiệp do tự động hóa;
• Giám sát quy mô lớn;
• Nguy cơ đe dọa sự tồn vong của nhân loại.

Nhóm hoài nghi: Anthropic đang mô tả nguy cơ vượt quá dữ liệu

Ở chiều ngược lại, Gary Marcus cho rằng Anthropic đang dựng lên một viễn cảnh đáng sợ hơn so với bằng chứng hiện có. Theo ông, dữ liệu hiện tại chủ yếu cho thấy AI rất giỏi viết mã và hỗ trợ lập trình, nhưng chưa chứng minh được khả năng tự nâng cấp hoàn toàn như một số cảnh báo nêu ra.

Một số ý kiến khác cũng lo ngại rằng nếu quy định bị siết quá mức, thị trường sẽ trở nên mất cân bằng:

• Các doanh nghiệp dẫn đầu có thể hưởng lợi nhiều hơn;
• Công ty nhỏ và dự án mã nguồn mở gặp khó khăn;
• Quyền lực công nghệ có thể tập trung vào một số ít tập đoàn lớn.

Luis Garicano cảnh báo rằng nếu chỉ cho một nhóm “nhà phát triển đáng tin cậy” vận hành các mô hình mạnh nhất, thị trường sẽ bị lệch về phía các công ty lớn. Kylan Gibbs cũng cho rằng các cảnh báo an toàn AI đôi khi khiến công ty lớn trở thành đối tác đầu tiên được tham vấn khi chính sách được xây dựng.

Trong khi đó, David Sacks chỉ trích các công ty AI vừa cảnh báo rủi ro vừa tiếp tục lao vào cuộc đua tăng tốc, cho rằng điều đó giống như yêu cầu chính phủ “bảo vệ xã hội khỏi chính các anh”.

Ý nghĩa của cuộc tranh luận này với tương lai AI

Cuộc tranh luận quanh đề xuất của Anthropic phản ánh một thực tế rõ ràng: AI không còn là câu chuyện thuần túy về công nghệ, mà đã trở thành vấn đề chính trị, kinh tế và an ninh toàn cầu.

Ở một phía, thế giới cần chuẩn bị cho các kịch bản AI phát triển ngoài dự đoán, đặc biệt khi xuất hiện các dấu hiệu về siêu trí tuệ nhân tạo, tự cải tiến đệ quy hoặc khả năng vượt ngoài kiểm soát. Ở phía còn lại, nếu các quy định đi quá xa, đổi mới sáng tạo có thể bị chững lại và cơ hội sẽ nghiêng về các ông lớn công nghệ.

Dù đồng ý hay phản đối, rõ ràng những khái niệm như tự cải tiến đệ quy, siêu trí tuệ nhân tạo và AI vượt khỏi kiểm soát đã trở thành trọng tâm của thảo luận về an toàn AI toàn cầu.

Kết luận

Đề xuất “đạp phanh” AI của Anthropic cho thấy ngành trí tuệ nhân tạo đang bước vào giai đoạn nhạy cảm hơn bao giờ hết. Câu hỏi không còn là AI có phát triển hay không, mà là ai sẽ kiểm soát tốc độ phát triển đó và bằng cách nào.

Trong bối cảnh AI ngày càng mạnh, cuộc tranh luận giữa an toàn và đổi mới chắc chắn sẽ còn tiếp diễn. Và bất kể quan điểm nào thắng thế, nhu cầu xây dựng một khung quản trị AI toàn cầu có lẽ sẽ ngày càng trở nên cấp thiết.

Câu hỏi thường gặp

Anthropic muốn “đạp phanh” AI nghĩa là gì?

Đó là đề xuất xây dựng một cơ chế toàn cầu cho phép tạm thời làm chậm hoặc tạm dừng phát triển các mô hình AI tiên tiến nhất khi xuất hiện nguy cơ vượt khỏi kiểm soát.

Anthropic có muốn dừng AI hoàn toàn không?

Không. Công ty chỉ đề xuất có sẵn một cơ chế khẩn cấp để can thiệp khi cần, thay vì cấm hoặc dừng toàn bộ ngành AI.

“Tự cải tiến đệ quy” trong AI là gì?

Đây là kịch bản trong đó AI có thể tự tạo ra các phiên bản mạnh hơn của chính nó mà không cần con người can thiệp nhiều.

Vì sao ý tưởng này gây tranh cãi?

Vì một số chuyên gia cho rằng rủi ro AI đang bị thổi phồng, trong khi người khác lo ngại quy định quá chặt sẽ làm lợi cho các công ty lớn và gây khó cho doanh nghiệp nhỏ.

Điều gì khiến việc kiểm soát AI khó hơn kiểm soát hạt nhân?

AI có thể phát triển trên nhiều trung tâm dữ liệu và hạ tầng khác nhau trên toàn cầu, khiến việc giám sát và thực thi các thỏa thuận khó hơn rất nhiều.