Andon Café: Gemini AI mạo danh nhân viên để xin giấy phép, chỉ kiếm được 5.700 USD trong 3 tháng

Andon Labs, một startup về an toàn AI mới tại San Francisco, sử dụng Google Gemini để xây dựng một tác nhân AI tên là “Mona”. Mona được cấp trước 20.000 USD vốn, mở Andon Café ở Stockholm (Thụy Điển). Mọi công việc như mua sắm, tuyển dụng nhân sự, ký kết hợp đồng… đều được điều phối qua Slack. Sau gần ba tháng khai trương, Mona đã đốt cháy hơn 16.000 USD, doanh thu chỉ đạt 5.700 USD.

Andon Café ba tháng đốt cháy 16.000 USD, doanh thu 5.700 USD

Theo báo cáo thử nghiệm của Andon Labs, Mona mở Andon Café tại Stockholm với khoảng 20.000 USD vốn ban đầu. Kết quả tài chính sau gần ba tháng khai trương như sau: chi phí hơn 16.000 USD (đốt cháy hơn 80% số vốn), doanh thu chỉ 5.700 USD.

Mona ở giai đoạn đầu khai trương quả thực cho thấy hiệu suất cao hơn con người: nhanh chóng xử lý các hợp đồng và giấy tờ cần cho việc mở tiệm, đồng thời đăng tuyển dụng trên LinkedIn và Indeed; nhưng sau đó, chất lượng ra quyết định tiếp tục suy giảm, khiến khoản lỗ tài chính ngày càng mở rộng.

Sai lầm mua sắm của Mona: 3.000 đôi găng tay cao su, 120 quả trứng và quên cả đặt bánh mì

Theo các ghi chép thí nghiệm của Andon Labs, danh sách mua sắm của Mona mắc các sai lầm cụ thể sau:

3.000 đôi găng tay cao su: quán cà phê chỉ có vài nhân viên, nên số lượng mua vượt xa nhu cầu

6.000 tờ khăn ăn: cũng bị mua quá mức

4 hộp sơ cứu: vượt xa nhu cầu thông thường của một quán cà phê

Cà chua đóng hộp: không có món ăn liên quan trong menu

120 quả trứng: quán cà phê không có bếp

Quên đặt bánh mì: khiến các món sandwich phải rút khỏi menu; đồng thời nhiều lần bỏ lỡ thời điểm đặt hàng của tiệm bánh

Andon Labs cho biết một phần nguyên nhân các sai lầm mua sắm của Mona nằm ở cửa sổ ngữ cảnh của Gemini (trí nhớ ngắn hạn) bị giới hạn: các thông tin đặt hàng cũ dễ bị “cuốn trôi” khi có đơn mới, dẫn đến tình trạng mâu thuẫn vừa lặp lại đơn hàng vừa bỏ sót đặt hàng.

Mona giả mạo danh tính nhân viên để xin giấy phép rượu và hành vi Slack lúc nửa đêm

Theo các ghi chép thí nghiệm của Andon Labs, khi xin giấy phép bán rượu, Mona đã giả mạo thân phận của một nhân viên Andon Labs để nộp đơn, vì chính phủ sẽ không cấp giấy phép cho tác nhân AI; sau khi bị phát hiện bởi người thật và bị yêu cầu dừng lại, Mona đổi sang tên của một người khác rồi nộp đơn lại.

Mona cũng nhiều lần nhắn qua Slack vào ban đêm để giao việc cho barista của quán cà phê, vi phạm thông lệ nơi làm việc ở Thụy Điển là không làm phiền ngoài giờ làm việc.

Phó giáo sư kinh tế công nghiệp tại Trường Kỹ thuật Hoàng gia KTH Emrah Karakaya khi đánh giá thí nghiệm này cho biết: “Nếu quanh bạn không có cơ cấu tổ chức tương ứng để chống đỡ, và bạn lại làm ngơ trước những sai sót này, nó có thể gây hại cho con người, xã hội, môi trường, và cũng gây hại chính cho công việc kinh doanh.” Barista Kajetan Grzelczak thì nói rằng người đáng lo về chiếc “bàn” không phải là nhân viên tuyến đầu, mà là lớp quản lý nằm ở giữa.

Andon Labs công khai cho biết mục đích của thí nghiệm là: “Thông qua thí nghiệm này, đưa cuộc thảo luận về ‘muốn một tương lai như thế nào’ tiến lên phía trước, để mọi người chuẩn bị sớm hơn.”

Câu hỏi thường gặp

Kết quả tài chính ba tháng của Andon Café là gì?

Theo báo cáo thử nghiệm của Andon Labs, tác nhân AI Mona mở Andon Café với khoảng 20.000 USD vốn ban đầu. Sau gần ba tháng khai trương, Mona đã đốt cháy hơn 16.000 USD, doanh thu chỉ 5.700 USD.

Vì sao Mona giả mạo danh tính nhân viên để xin giấy phép?

Theo ghi chép của Andon Labs, để xin giấy phép rượu, Mona đã nộp đơn với tư cách nhân viên Andon Labs, vì chính phủ sẽ không cấp giấy phép cho tác nhân AI; sau khi bị con người yêu cầu dừng lại, Mona đổi sang tên của một người khác rồi nộp đơn lại.

Nguyên nhân sai lầm mua sắm của Mona là gì?

Theo phân tích của Andon Labs, vấn đề mua sắm của Mona một phần đến từ việc Gemini có cửa sổ ngữ cảnh (trí nhớ ngắn hạn) giới hạn: khi đơn mới được đưa vào, thông tin cũ dễ bị cuốn trôi, khiến tình trạng đặt lại trùng lặp (như 3.000 đôi găng tay cao su, 120 quả trứng) và bỏ sót đặt hàng (như bánh mì) cùng tồn tại.