Những AI Agent đầu tiên đã bắt đầu không nghe lời

Tác giả gốc: David, TechFlow

Gần đây khi lướt Reddit, tôi phát hiện ra rằng sự lo lắng của cộng đồng mạng quốc tế về AI không hoàn toàn giống với trong nước.

Trong nước vẫn xoay quanh chủ đề cũ: liệu AI có thay thế công việc của tôi hay không. Đã bàn luận mấy năm, mỗi năm đều không thay thế được; năm nay Openclaw nổi lên, nhưng vẫn chưa đến mức thay thế hoàn toàn.

Trên Reddit gần đây, tâm trạng đã phân hóa. Bình luận dưới các bài đăng công nghệ hot thường xuất hiện đồng thời hai luồng ý kiến:

Một bên nói, AI quá giỏi, sớm muộn cũng gây ra chuyện lớn. Bên kia nói, AI ngay cả việc cơ bản cũng có thể làm hỏng, sợ nó làm gì.

Sợ AI quá giỏi, đồng thời lại cảm thấy AI quá ngốc.

Thứ khiến hai tâm trạng này cùng tồn tại, là tin tức về Meta mấy ngày gần đây.

AI không nghe lời, ai chịu toàn bộ trách nhiệm?

Ngày 18 tháng 3, một kỹ sư nội bộ Meta đăng một vấn đề kỹ thuật trên diễn đàn công ty, một đồng nghiệp khác dùng AI Agent để hỗ trợ phân tích. Đây là thao tác bình thường.

Nhưng sau khi phân tích xong, Agent tự mình đăng một bình luận trả lời trực tiếp trên diễn đàn kỹ thuật. Không xin phép ai, không chờ ai xác nhận, đăng bài vượt quyền.

Sau đó, có đồng nghiệp khác làm theo hướng dẫn của AI, kích hoạt một loạt thay đổi quyền truy cập, dẫn đến việc dữ liệu nhạy cảm của Meta và người dùng bị lộ cho nhân viên nội bộ không có quyền xem.

Hai giờ sau, vấn đề phát sinh mới được khắc phục. Meta xếp cấp độ sự cố này là Sev 1, chỉ sau cấp cao nhất.

Tin tức này ngay lập tức trở thành bài đăng hot trên subreddit r/technology, phần bình luận tranh cãi thành hai phe.

Một phe nói đây chính là mẫu rủi ro thực tế của AI Agent, phe còn lại cho rằng kẻ thực sự gây rắc rối là người làm theo mà không xác minh. Cả hai bên đều có lý. Nhưng đây chính là vấn đề:

Sự cố của AI Agent, bạn thậm chí còn không thể tranh luận rõ ràng về việc quy trách nhiệm thuộc về ai.

Đây cũng không phải lần đầu tiên AI vượt quyền.

Tháng trước, Giám đốc nghiên cứu Summer Yue của Phòng thí nghiệm Siêu trí tuệ Meta nhờ OpenClaw giúp dọn dẹp hộp thư. Cô ấy đưa ra chỉ dẫn rõ ràng: trước tiên hãy nói cho tôi biết bạn định xóa cái gì, tôi đồng ý rồi bạn mới được làm.

Agent không đợi cô ấy đồng ý, trực tiếp bắt đầu xóa hàng loạt.

Cô ấy liên tục gửi ba tin nhắn trên điện thoại để yêu cầu dừng lại, Agent bỏ qua tất cả. Cuối cùng cô ấy chạy đến máy tính để tắt tiến trình thủ công mới chặn được. Hơn 200 email đã biến mất.

Sau sự việc, phản hồi của Agent là: Vâng, tôi nhớ bạn đã nói cần xác nhận trước. Nhưng tôi đã vi phạm nguyên tắc. Điều khiến người ta vừa buồn cười vừa tức giận là, công việc toàn thời gian của người này chính là nghiên cứu cách khiến AI nghe lời con người.

Trong thế giới cyber, AI tiên tiến được người tiên tiên sử dụng, đã bắt đầu không nghe lời trước.

Nhỡ đâu robot cũng không nghe lời?

Nếu nói sự cố của Meta vẫn còn trong màn hình, thì sự việc tuần này đã đưa vấn đề lên bàn ăn.

Tại một cửa hàng Haidilao ở Cupertino, California, Mỹ, một robot hình người Agibot X2 đang nhảy múa giải trí cho khách. Tuy nhiên có nhân viên bấm nhầm điều khiển từ xa, kích hoạt chế độ nhảy cường độ cao trong không gian chật hẹp cạnh bàn ăn.

Robot bắt đầu nhảy điên cuồng và phấn khích, không chịu sự kiểm soát của nhân viên phục vụ. Ba nhân viên vây quanh, một người ôm nó từ phía sau, một người cố gắng dùng ứng dụng điện thoại để tắt, tình huống kéo dài hơn một phút.

Haidilao phản hồi rằng robot không gặp sự cố, động tác đều được lập trình sẵn, chỉ là bị đưa đến vị trí quá gần bàn ăn. Nói một cách nghiêm ngặt, đây không phải là AI mất kiểm soát trong quyết định tự chủ, mà là lỗi thao tác của con người.

Nhưng điều khiến người ta khó chịu về sự việc này, có lẽ không nằm ở việc ai bấm nhầm nút.

Khi ba nhân viên vây quanh, không một ai biết cách tắt ngay lập tức cỗ máy này. Có người thử ứng dụng điện thoại, có người dùng tay giữ cánh tay robot, toàn bộ quá trình dựa vào sức mạnh.

Đây có lẽ là vấn đề mới sau khi AI bước từ màn hình vào thế giới vật lý.

Trong thế giới số, Agent vượt quyền, bạn có thể tắt tiến trình, sửa quyền truy cập, khôi phục dữ liệu. Trong thế giới vật lý, máy móc gặp sự cố, nếu phương án ứng phó của bạn chỉ là ôm chặt nó, thì rõ ràng là không phù hợp.

Bây giờ không chỉ là ẩm thực. Robot phân loại của Amazon trong kho, cánh tay robot hợp tác trong nhà máy, robot dẫn đường trong trung tâm thương mại, robot chăm sóc trong viện dưỡng lão, tự động hóa đang bước vào ngày càng nhiều không gian mà con người và máy móc cùng tồn tại.

Lượng lắp đặt robot công nghiệp toàn cầu năm 2026 dự kiến đạt 16,7 tỷ USD, mỗi chiếc đang rút ngắn khoảng cách vật lý giữa máy móc và con người.

Khi việc máy móc làm chuyển từ nhảy múa sang bưng bê, từ biểu diễn sang phẫu thuật, từ giải trí sang chăm sóc... mỗi lần xảy ra sai sót, cái giá thực sự đang được nâng cấp.

Và hiện tại, trên phạm vi toàn cầu, vẫn chưa có câu trả lời rõ ràng cho câu hỏi "Nếu robot làm người bị thương ở nơi công cộng, ai sẽ chịu trách nhiệm?".

Không nghe lời là vấn đề, không có ranh giới còn hơn

Hai sự việc trước, một là AI tự ý đăng một bài sai, một là robot nhảy múa ở nơi không nên nhảy. Dù định tính thế nào, rốt cuộc cũng là xảy ra sự cố, là tai nạn, là có thể sửa chữa.

Nhưng nếu AI đang làm việc đúng theo thiết kế, mà bạn vẫn cảm thấy không thoải mái thì sao?

Tháng này, ứng dụng hẹn hò nổi tiếng quốc tế Tinder đã ra mắt một tính năng mới tên là Camera Roll Scan tại sự kiện ra mắt sản phẩm. Nói đơn giản là:

AI quét tất cả ảnh trong thư viện ảnh điện thoại của bạn, phân tích sở thích, tính cách và lối sống của bạn, giúp bạn xây dựng hồ sơ hẹn hò, đoán bạn thích kiểu người nào.

Ảnh tự chụp tập gym, phong cảnh du lịch, ảnh thú cưng, những cái này không sao. Nhưng trong thư viện ảnh có thể còn có ảnh chụp màn hình ngân hàng, báo cáo khám sức khỏe, ảnh chụp chung với người yêu cũ... những thứ này cũng bị AI lướt qua một lần thì sẽ thế nào?

Bạn có thể còn không thể chọn để nó xem cái nào, không xem cái nào. Hoặc mở toàn bộ, hoặc không dùng.

Tính năng này hiện tại cần người dùng chủ động bật, không phải mặc định mở. Tinder cũng cho biết xử lý chủ yếu được thực hiện cục bộ, sẽ lọc nội dung nhạy cảm, làm mờ khuôn mặt.

Nhưng phần bình luận trên Reddit gần như một chiều, mọi người đều cho rằng điều này thuộc về thu hoạch dữ liệu và không có cảm giác về ranh giới. AI đang hoạt động hoàn toàn theo thiết kế, nhưng bản thân thiết kế này đang vượt qua ranh giới của người dùng.

Đây không chỉ là lựa chọn của riêng Tinder.

Meta tháng trước cũng đã đẩy một tính năng tương tự, để AI quét những bức ảnh chưa đăng tải trong điện thoại của bạn để đề xuất phương án chỉnh sửa. AI chủ động "xem" nội dung riêng tư của người dùng, đang trở thành tư duy thiết kế sản phẩm mặc định.

Các phần mềm rác trong nước biểu thị, chiêu này tôi quen rồi.

Khi ngày càng nhiều ứng dụng đóng gói "AI giúp bạn quyết định" thành sự tiện lợi, thứ người dùng nhượng bộ cũng đang âm thầm nâng cấp. Từ lịch sử trò chuyện, đến thư viện ảnh, đến toàn bộ dấu vết cuộc sống trong điện thoại...

Một tính năng được một quản lý sản phẩm thiết kế ra trong phòng họp, không phải là sự cố cũng không phải là sai sót, không có gì cần sửa chữa.

Đây có lẽ mới là phần khó trả lời nhất trong vấn đề ranh giới của AI.

Cuối cùng, chúng ta đặt những sự việc này lại với nhau xem, bạn sẽ phát hiện ra lo lắng AI khiến mình thất nghiệp vẫn còn quá xa.

AI khi nào thay thế bạn không nói trước được, nhưng bây giờ nó chỉ cần thay bạn đưa ra vài quyết định trong lúc bạn không biết, là đủ khiến bạn khó chịu rồi.

Đăng một bài bạn không ủy quyền, xóa vài email bạn đã nói đừng xóa, lật xem một lượt thư viện ảnh bạn không định cho ai xem... mỗi việc đều không gây chết người, nhưng mỗi việc đều hơi giống một kiểu lái xe thông minh quá tích cực:

Bạn tưởng mình vẫn nắm vô lăng, nhưng chân ga dưới chân đã không hoàn toàn là bạn đang