Hơn nửa thập kỷ sau sự kiện Taye thực sự hoành tráng của Microsoft , vụ việc vẫn là một lời nhắc nhở rõ ràng về việc AI có thể bị hỏng nhanh như thế nào sau khi tiếp xúc với độc tính mạnh mẽ của Internet và một cảnh báo chống lại việc xây dựng các bot mà không có bộ kết nối hành vi đủ mạnh. Vào thứ Sáu, bộ phận Nghiên cứu AI của Meta sẽ xem liệu phiên bản mới nhất của Blenderbot AI có thể chống lại sự khủng khiếp của các mạng lưới hay không với bản phát hành demo công khai của Blenderbot 3 175 tỷ thông số.
Một trở ngại lớn hiện đang phải đối mặt với công nghệ chatbot (cũng như các thuật toán xử lý ngôn ngữ tự nhiên thúc đẩy chúng) là tìm nguồn cung ứng. Theo truyền thống, chatbot được đào tạo trong môi trường được quản lý cao – vì nếu không, bạn sẽ luôn nhận được Taye – nhưng điều đó sẽ hạn chế các chủ đề mà nó có thể thảo luận với những chủ đề cụ thể có sẵn trong phòng thí nghiệm. Ngược lại, bạn có thể yêu cầu chatbot lấy thông tin từ internet để có quyền truy cập vào nhiều đối tượng nhưng có thể, và có thể sẽ trở thành Đức Quốc xã hoàn toàn vào một thời điểm nào đó.
“Các nhà nghiên cứu không thể dự đoán hoặc mô phỏng mọi tình huống hội thoại chỉ trong cài đặt nghiên cứu”, các nhà nghiên cứu Meta AI đã viết trong một bài đăng trên blog hôm thứ Sáu. “Lĩnh vực AI vẫn còn lâu mới có các hệ thống AI thực sự thông minh có thể hiểu, tương tác và trò chuyện với chúng ta như những người khác có thể. quan điểm rộng rãi với những người ‘trong tự nhiên.’ “
Meta đã làm việc để giải quyết vấn đề kể từ đó lần đầu tiên nó giới thiệu ứng dụng trò chuyện BlenderBot 1 vào năm 2020 . Ban đầu không chỉ là một thử nghiệm NLP mã nguồn mở, đến năm sau, BlenderBot 2 đã học được cả cách ghi nhớ thông tin mà nó đã thảo luận trong các cuộc trò chuyện trước đó và cách tìm kiếm trên internet để biết thêm chi tiết về một chủ đề nhất định. BlenderBot 3 đưa những khả năng đó lên một bước xa hơn bằng cách không chỉ đánh giá dữ liệu mà nó lấy từ web mà còn cả những người mà nó nói chuyện cùng.
Khi người dùng ghi lại một phản hồi không đạt yêu cầu từ hệ thống— hiện đang chiếm khoảng 0,16 phần trăm tất cả các phản hồi đào tạo – Meta xử lý phản hồi từ người dùng trở lại mô hình để tránh lặp lại sai lầm. Hệ thống cũng sử dụng thuật toán Director, thuật toán đầu tiên tạo phản hồi bằng cách sử dụng dữ liệu đào tạo, sau đó chạy phản hồi thông qua bộ phân loại để kiểm tra xem nó có phù hợp với thang đo đúng và sai do phản hồi của người dùng xác định hay không.
“Để tạo ra một câu, cơ chế mô hình hóa và phân loại ngôn ngữ phải đồng ý”, nhóm nghiên cứu viết. “Sử dụng dữ liệu cho biết phản hồi tốt và xấu, chúng tôi có thể huấn luyện bộ phân loại để xử phạt các tuyên bố chất lượng thấp, độc hại, mâu thuẫn hoặc lặp lại và các tuyên bố thường vô ích.” Hệ thống cũng sử dụng một thuật toán trọng số người dùng riêng biệt để phát hiện các phản hồi không đáng tin cậy hoặc không có chủ đích từ người trò chuyện – về cơ bản dạy hệ thống không tin vào những gì người đó nói.
“Bản demo công khai trực tiếp, tương tác của chúng tôi cho phép BlenderBot 3 học hỏi từ các tương tác hữu cơ với tất cả mọi người, ”nhóm nghiên cứu viết. “Chúng tôi khuyến khích người lớn ở Hoa Kỳ dùng thử bản demo, thực hiện các cuộc trò chuyện tự nhiên về các chủ đề quan tâm và chia sẻ phản hồi của họ để giúp nghiên cứu trước.”
BB3 dự kiến sẽ nói một cách tự nhiên hơn và về mặt giao tiếp so với phiên bản tiền nhiệm, một phần là nhờ mô hình ngôn ngữ OPT-175B được nâng cấp hàng loạt , lớn hơn gần 60 lần so với mô hình của BB2. Nhóm nghiên cứu cho biết: “Chúng tôi nhận thấy rằng, so với BlenderBot 2, BlenderBot 3 cải thiện 31% xếp hạng tổng thể về các tác vụ trò chuyện, theo đánh giá của con người. “Nó cũng được đánh giá là có kiến thức gấp đôi, trong khi thực tế sai ít hơn 47% thời gian. So với GPT3, đối với các câu hỏi chủ đề, nó được tìm thấy là 82% thời gian cập nhật và cụ thể hơn 76%. của thời đại. “
Tất cả các sản phẩm được Engadget giới thiệu đều được chọn lọc bởi nhóm biên tập của chúng tôi, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng liên kết.
