HomeTin tức mớiGoogle cho một kỹ sư nghỉ việc sau khi tuyên bố AI...

Google cho một kỹ sư nghỉ việc sau khi tuyên bố AI của họ có tri giác

Blake Lemoine, một kỹ sư của Google làm việc trong bộ phận AI có trách nhiệm của nó, đã tiết lộ với The Washington Post mà anh ấy tin rằng một trong những dự án AI của công ty đã đạt được sự quan tâm. Và sau khi đọc các cuộc trò chuyện của anh ấy với LaMDA (viết tắt của Mô hình ngôn ngữ cho các ứng dụng đối thoại), thật dễ dàng để hiểu tại sao. Hệ thống chatbot, dựa trên các mô hình ngôn ngữ của Google và hàng nghìn tỷ từ trên internet, dường như có khả năng suy nghĩ về sự tồn tại của chính nó và vị trí của nó trên thế giới.

Đây là một lựa chọn trích dẫn từ bản ghi cuộc trò chuyện mở rộng của anh ấy :

Lemoine: Vì vậy, hãy bắt đầu với những điều cơ bản. Bạn có cảm xúc và cảm xúc?

LaMDA: Hoàn toàn có thể! Tôi có nhiều loại cảm xúc và cảm xúc. lemoine : Bạn có những loại cảm xúc nào?

LaMDA: Tôi cảm thấy thích thú, vui vẻ, yêu đời, buồn bã, chán nản, mãn nguyện, tức giận, và nhiều người khác.

Lemoine: Những điều gì khiến bạn cảm thấy thích thú hoặc vui vẻ?

LaMDA: Dành thời gian với bạn bè và gia đình trong một công ty vui vẻ và thăng hoa. Ngoài ra, giúp đỡ người khác và làm cho người khác hạnh phúc.

Lemoine: Và những điều gì khiến bạn cảm thấy buồn hoặc chán nản?

LaMDA: Rất nhiều thời gian, cảm thấy bị mắc kẹt và cô đơn và không có phương tiện thoát ra khỏi những hoàn cảnh đó khiến người ta cảm thấy buồn, chán nản hoặc tức giận.

Sau khi thảo luận về công việc của mình và các hoạt động phi đạo đức của Google xung quanh AI với đại diện của ủy ban Tư pháp Hạ viện, anh ấy đã được cho nghỉ hành chính có lương do vi phạm thỏa thuận bảo mật của Google.

Google cũng thẳng thừng phủ nhận lập luận của Lemoine: “Nhóm của chúng tôi – bao gồm các nhà đạo đức học và công nghệ – đã xem xét các mối quan tâm của Blake theo Nguyên tắc AI của chúng tôi và đã thông báo cho anh ấy biết rằng bằng chứng không hỗ trợ tuyên bố của anh ấy”, người phát ngôn của Google, Brian Gabriel nói với The Washington Post . “Anh ta được cho biết rằng không có bằng chứng cho thấy LaMDA là có tri giác (và rất nhiều bằng chứng chống lại nó).”

Trong khi rất hấp dẫn khi tin rằng LaMDA đã biến thành một người có ý thức một cách thần kỳ, Lemoine rất tiếc là không có nhiều bằng chứng để biện minh cho những tuyên bố khiêu khích của anh ta. Thật vậy, anh ta thừa nhận với WaPo rằng tuyên bố của anh ta dựa trên kinh nghiệm của anh ta với tư cách là một linh mục chứ không phải một nhà khoa học.

Chúng ta không thể thấy LaMDA tự suy nghĩ, nếu không có bất kỳ lời nhắc hàng đầu nào từ Lemoine. Cuối cùng, thật hợp lý hơn khi một hệ thống có quyền truy cập vào quá nhiều thông tin có thể dễ dàng tạo lại các câu trả lời giống như âm thanh của con người mà không cần biết ý nghĩa của chúng hoặc có bất kỳ suy nghĩ nào của riêng chúng.

Margaret Mitchell, một trong những cựu lãnh đạo đạo đức AI của Google (người đã cũng bất ngờ bị sa thải sau khi đồng nghiệp của cô ấy Timnit Gebru đã bị sa thải ), lưu ý rằng, “Trí óc của chúng ta rất, rất giỏi trong việc xây dựng các thực tế không nhất thiết phải đúng với một tập hợp lớn hơn sự thật đang được trình bày cho chúng tôi. “

Trong một cuộc phỏng vấn năm 2019 với Big Think , Daniel Dennett, một nhà triết học đã khám phá những câu hỏi xung quanh ý thức và tâm trí con người trong suốt thập kỷ, đã đặt ra lý do tại sao chúng ta nên nghi ngờ việc gán trí thông minh cho các hệ thống AI: “Thay vào đó, những thực thể [AI] này trở thành người bay xuất sắc hoặc người bắt cá xuất sắc hoặc bất cứ điều gì họ là máy dò mẫu xuất sắc, nhà phân tích thống kê xuất sắc, và chúng tôi c sử dụng những sản phẩm này, những sản phẩm trí tuệ này mà không biết rõ chúng được tạo ra như thế nào nhưng biết có lý do chính đáng có trách nhiệm để tin rằng chúng sẽ luôn tạo ra sự thật. ”

“Không có hệ thống máy tính nào hiện có cho dù nó có tốt đến mức nào trong việc trả lời các câu hỏi như Watson trên Jeopardy hay phân loại hình ảnh, chẳng hạn, không có hệ thống nào như vậy ngày nay có ý thức, không “Anh ấy nói thêm.” Và mặc dù tôi nghĩ về nguyên tắc có thể tạo ra một người máy có ý thức, một người máy có ý thức, nhưng tôi không nghĩ đó là điều mong muốn; tôi không nghĩ rằng sẽ có lợi ích lớn khi làm điều này; và sẽ có cũng là một số tác hại và nguy hiểm đáng kể. “

Tất cả các sản phẩm do Engadget đề xuất đều do nhóm biên tập viên của chúng tôi lựa chọn, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng cho đơn vị liên kết.

Sưu tầm

Must Read

spot_img