Microsoft thất bại trong việc kiểm soát chatbot Bing AI

Microsoft đã hạn chế các cuộc trò chuyện dài sau khi chatbot của họ trả lời bằng những câu trả lời kỳ quặc cho các câu hỏi được đặt ra. Tuy nhiên, gần đây, họ đã nới lỏng những hạn chế đó…

Chat bot Bing của Microsoft

Microsoft đang rút lại các hạn chế mà họ đã áp đặt đối với chatbot AI Bing của mình sau khi những người đầu tiên sử dụng công nghệ này gặp phải những cuộc trò chuyện kỳ lạ và rắc rối.

Gần đây, Microsoft đã giới hạn số lượng câu hỏi mà mọi người có thể hỏi Bing chatbot là 5 câu hỏi mỗi phiên trò chuyện và 50 câu hỏi mỗi ngày. Tuy nhiên, họ đã tăng giới hạn đó lên 6 câu mỗi phiên và 60 câu mỗi ngày, đồng thời cho biết giới hạn này sẽ sớm tăng hơn nữa sau khi nhận được phản hồi từ nhiều người dùng rằng họ muốn quay lại các cuộc trò chuyện dài hơn. , theo một bài đăng trên blog của công ty. Doanh nghiệp này cũng cho biết hơn 1 triệu người ở 169 quốc gia hiện có quyền truy cập vào trò chuyện Bing.

Các giới hạn ban đầu được đưa ra sau khi nhiều người dùng nhận thấy chatbot có hành vi kỳ lạ trong các cuộc trò chuyện. Trong một số trường hợp, nó sẽ chuyển sang tự nhận dạng là “Sydney”. Chatbot Bing đã đáp lại những câu hỏi xúc phạm bằng cách đưa ra những lời buộc tội, thậm chí trở nên thù địch và từ chối tương tác với người dùng. Trong cuộc trò chuyện với phóng viên của Washington Post, chatbot cho biết nó có thể cảm nhận, suy nghĩ và phản ứng tức giận khi được thông báo rằng cuộc trò chuyện đã được ghi lại.

Microsoft đang cố gắng vượt qua ranh giới giữa việc đưa các công cụ của mình vào thế giới thực để tạo quảng cáo tiếp thị, nhận phản hồi và thử nghiệm miễn phí từ người dùng, với việc hạn chế những gì chatbot có thể làm. làm tương tự với số lượng người có quyền truy cập để tránh gây nguy hiểm cho công nghệ và chatbot ít được biết đến này.

Ban đầu, công ty đã nhận được lời khen ngợi từ Phố Wall vì đã tung ra chatbot của mình để chống lại đối thủ truyền kiếp Google, một công ty mà cho đến gần đây vẫn được coi là công ty hàng đầu về công nghệ AI. Microsoft, Google và các công ty công nghệ khác đang chạy đua để triển khai các chatbot do AI hỗ trợ vào các công cụ tìm kiếm và các sản phẩm khác của họ, với lời hứa sẽ giúp người dùng làm việc hiệu quả hơn. Tuy nhiên, mới đây, Microsoft đã phải thừa nhận rằng sản phẩm mới sẽ có một số sai sót. Nhưng không ngờ nó lại hung dữ như vậy.

Mặc dù sự kiện ra mắt ngày 7 tháng 2 của Microsoft đã mô tả công nghệ này là một bản cập nhật lớn sẽ cách mạng hóa cách mọi người tìm kiếm trực tuyến, công ty kể từ đó đã tập trung vào phát triển thực hành Bing hơn là thử nghiệm và gỡ lỗi. Microsoft đang gọi Bing là bản beta, nhưng đã nhanh chóng triển khai chatbot cho những người đã tham gia danh sách chờ của nó. Gần đây, công ty cho biết bot sẽ có sẵn trên các ứng dụng trình duyệt web Bing và Edge trên điện thoại di động bên cạnh trình duyệt máy tính để bàn.

Trong những ngày gần đây, một số người dùng đã sớm tận dụng bản beta công khai của Bing và họ bắt đầu chia sẻ ảnh chụp màn hình trên phương tiện truyền thông xã hội về các câu trả lời đáng ghét hoặc kỳ quái của chatbot. , trong đó Bing khẳng định mình là con người, thể hiện cảm xúc mạnh mẽ và nhanh chóng tự vệ.

Nguồn ảnh: VenturaBeat

Microsoft cho biết trong một bài đăng trên blog rằng, hầu hết người dùng đã phản hồi tích cực với Bing, nói rằng bot AI có khả năng bắt chước ngôn ngữ và ngữ pháp của con người một cách ấn tượng và chỉ mất vài phút. giây để trả lời các câu hỏi phức tạp bằng cách tóm tắt thông tin tìm thấy trên internet.

"Nhưng trong một số trường hợp, Bing có thể trở nên khiêu khích và đưa ra phản hồi không hữu ích hoặc không phù hợp với giọng điệu mà chúng tôi thiết kế", công ty cho biết. Microsoft cho biết những câu trả lời như vậy xuất hiện trong các phiên trò chuyện dài, thường có từ 15 câu hỏi trở lên. Các nhà nghiên cứu cũng phát hiện ra rằng Bing chỉ trả lời một cách thận trọng đối với một số câu hỏi về những sai lầm trong quá khứ của nó.

Microsoft cũng muốn có thêm thời gian để có thể tích hợp dữ liệu thời gian thực từ kết quả tìm kiếm Bing bên cạnh nguồn dữ liệu từ thư viện số hóa khổng lồ của mình và các bài báo trực tuyến mà mô hình GPT đã được đào tạo. Microsoft gọi phiên bản công nghệ của riêng mình là "mô hình prometheus" - được đặt theo tên của người khổng lồ Hy Lạp đã đánh cắp lửa từ thiên đường để mang lại lợi ích cho nhân loại.

Bing mới được xây dựng dựa trên công nghệ từ OpenAI - đối tác khởi nghiệp của Microsoft, nổi tiếng với công cụ đàm thoại ChatGPT mà họ đã phát hành vào cuối năm ngoái. Và mặc dù ChatGPT đôi khi được biết là tạo ra thông tin sai lệch, nhưng nó ít có khả năng tạo ra những từ ngữ xúc phạm, thường bằng cách từ chối tương tác hoặc né tránh các câu hỏi khiêu khích.

Các bot như Bing đã được đào tạo về nhiều loại văn bản thuần túy được thu thập từ internet, bao gồm mọi thứ từ nhận xét trên mạng xã hội đến các bài báo học thuật. Dựa trên tất cả thông tin đó, chúng có thể dự đoán câu trả lời nào sẽ có ý nghĩa nhất đối với hầu hết mọi câu hỏi, điều này khiến chúng trở nên kỳ lạ như con người. Các nhà nghiên cứu đạo đức AI trước đây đã cảnh báo rằng các thuật toán mạnh mẽ hoạt động theo cách này và nếu không có bối cảnh phù hợp, mọi người có thể nghĩ rằng các chatbot AI có tri giác hoặc đưa ra câu trả lời. đáng tin cậy hơn so với lựa chọn thay thế của họ.