Đừng bị lắc lư bởi những âm thanh quay số hấp dẫn của những AI của ngày mai và những bài hát báo động kỳ dị của chúng. Paul Leonardi, Giáo sư Quản lý Công nghệ của Gia đình Duca tại Đại học California, cho dù trí tuệ nhân tạo và người máy có thể trông giống và hoạt động giống con người đến mức nào, chúng sẽ không bao giờ thực sự trở thành con người. Santa Barbara, và Tsedal Neeley, Naylor Fitzhugh Giáo sư Quản trị Kinh doanh tại Trường Kinh doanh Harvard, trong cuốn sách mới của họ The Digital Mindset: What It Really Takes to Thrive in Age of Data , Thuật toán và AI – và do đó không nên được đối xử như con người. Cặp đôi tranh luận trong đoạn trích dưới đây rằng làm như vậy, điều đó cản trở sự tương tác với công nghệ tiên tiến và cản trở sự phát triển hơn nữa của nó.
Tạp chí Harvard Business Review Báo chí
Được tái bản dưới sự cho phép của Harvard Business Review Press. Trích từ THE DIGITAL MINDSET: Điều gì thực sự cần để phát triển mạnh trong thời đại dữ liệu, thuật toán và AI của Paul Leonardi và Tsedal Neeley. Bản quyền 2022 Harvard Business School Publishing Corporation. Đã đăng ký Bản quyền.
Đối xử với AI như một cỗ máy, ngay cả khi nó có vẻ hoạt động như một con người
Chúng ta đã quen với việc tương tác với máy tính theo cách trực quan: các nút, danh sách thả xuống, thanh trượt và các tính năng khác cho phép chúng ta đưa ra các lệnh cho máy tính. Tuy nhiên, những tiến bộ trong AI đang chuyển tương tác của chúng ta với các công cụ kỹ thuật số sang các tương tác giống với con người và cảm giác tự nhiên hơn. Cái được gọi là giao diện người dùng trò chuyện (UI) cung cấp cho mọi người khả năng hành động với các công cụ kỹ thuật số thông qua viết hoặc nói chuyện, đó là cách chúng ta tương tác với người khác nhiều hơn, chẳng hạn như “cuộc trò chuyện” của Burt Swanson với trợ lý Amy. Khi bạn nói, “Này Siri”, “Xin chào Alexa” và “OK Google”, đó là giao diện người dùng đàm thoại. Sự phát triển của các công cụ được kiểm soát bởi giao diện người dùng đàm thoại đang đáng kinh ngạc. Mỗi khi bạn gọi đến số 800 và được yêu cầu đánh vần tên của mình, hãy trả lời “Có” hoặc nói bốn số cuối của số an sinh xã hội của bạn, bạn đang tương tác với một AI sử dụng giao diện người dùng đàm thoại. Các bot trò chuyện đã trở nên phổ biến một phần vì chúng có ý nghĩa kinh doanh tốt và một phần vì chúng cho phép chúng tôi truy cập các dịch vụ hiệu quả hơn và thuận tiện hơn.
Ví dụ: nếu bạn đã đặt một chuyến tàu qua Amtrak, bạn có thể đã tương tác với một chatbot AI. Tên của nó là Julie, và nó trả lời hơn 5 triệu câu hỏi hàng năm từ hơn 30 triệu hành khách. Bạn có thể đặt chuyến du lịch đường sắt với Julie chỉ bằng cách nói bạn sẽ đi đâu và khi nào. Julie có thể điền trước các biểu mẫu trên công cụ lập lịch của Amtrak và cung cấp hướng dẫn thông qua phần còn lại của quy trình đặt phòng. Amtrak đã thấy 800% lợi tức đầu tư của họ vào Julie. Amtrak tiết kiệm hơn 1 triệu đô la chi phí dịch vụ khách hàng mỗi năm bằng cách sử dụng Julie để trả lời các câu hỏi cấp thấp, có thể dự đoán được. Số lượt đặt trước đã tăng 25% và các lượt đặt phòng được thực hiện thông qua Julie tạo ra doanh thu cao hơn 30% so với các lượt đặt phòng được thực hiện qua trang web, bởi vì Julie rất giỏi trong việc bán thêm hàng cho khách hàng!
Một lý do cho sự thành công của Julie là Amtrak nói rõ với người dùng rằng Julie là một nhân viên AI và họ cho bạn biết lý do tại sao họ quyết định sử dụng AI thay vì kết nối bạn trực tiếp với con người. Điều đó có nghĩa là con người định hướng nó như một cái máy, không nhầm là một con người. Họ không mong đợi quá nhiều từ nó và họ có xu hướng đặt câu hỏi theo những cách gợi ra câu trả lời hữu ích. Quyết định của Amtrak nghe có vẻ trái ngược với trực giác, vì nhiều công ty cố gắng coi các chatbot của họ là người thật và có vẻ như việc tương tác với một cỗ máy như thể đó là một con người chính xác là cách để đạt được kết quả tốt nhất. Tư duy kỹ thuật số đòi hỏi sự thay đổi trong cách chúng ta nghĩ về mối quan hệ của chúng ta với máy móc. Ngay cả khi chúng trở nên nhân văn hơn, chúng ta cần nghĩ về chúng như những cỗ máy— yêu cầu hướng dẫn rõ ràng và tập trung vào các nhiệm vụ hẹp.
x.ai, công ty đã tạo ra người lên lịch cuộc họp Amy, cho phép bạn lên lịch một cuộc họp tại nơi làm việc hoặc mời một người bạn tham gia trận đấu bóng rổ của con bạn bằng cách chỉ cần gửi email cho Amy (hoặc người đồng cấp của cô ấy, Andrew) với yêu cầu của bạn như thể họ là một trợ lý cá nhân trực tiếp. Tuy nhiên, Dennis Mortensen, Giám đốc điều hành của công ty, nhận thấy rằng hơn 90% các yêu cầu mà bộ phận trợ giúp của công ty nhận được liên quan đến thực tế là mọi người đang cố gắng sử dụng ngôn ngữ tự nhiên với bot và đấu tranh để đạt được kết quả tốt.
. Ngoài cách nói chuyện, anh ta đã đưa ra nhiều giả thiết hoàn toàn hợp lệ về sự tương tác của mình với Amy. Anh cho rằng Amy có thể hiểu những ràng buộc về lịch trình của anh và “cô ấy” sẽ có thể phân biệt sở thích của anh từ bối cảnh của cuộc trò chuyện. Swanson thân mật và bình thường — bot không hiểu được điều đó. Bạn không hiểu rằng khi yêu cầu thời gian của người khác, đặc biệt là nếu họ đang giúp đỡ bạn, việc thay đổi thường xuyên hoặc đột ngột công việc hậu cần cuộc họp sẽ không hiệu quả. Hóa ra việc tương tác ngẫu nhiên với một robot thông minh khó hơn chúng ta nghĩ. Giáo sư Clifford Nass của Stanford và giáo sư Youngme Moon của Trường Kinh doanh Harvard đã thực hiện một loạt nghiên cứu trong đó mọi người tương tác với các giao diện máy tính nhân hình. Họ phát hiện ra rằng các cá nhân có xu hướng lạm dụng các phạm trù xã hội của con người, áp dụng định kiến giới vào máy tính và xác định chủng tộc với các tác nhân máy tính. Phát hiện của họ cũng cho thấy rằng mọi người thể hiện các hành vi xã hội được học quá nhiều như lịch sự và có đi có lại đối với máy tính. Điều quan trọng là, mọi người có xu hướng tham gia vào những hành vi này – đối xử với rô bốt và các tác nhân thông minh khác như thể họ là người – ngay cả khi họ biết mình đang tương tác với máy tính chứ không phải con người. Có vẻ như xung lực tập thể của chúng ta trong việc quan hệ với con người thường len lỏi vào sự tương tác của chúng ta với máy móc.
Vấn đề nhầm máy tính với con người này càng phức tạp khi tương tác với các tác nhân nhân tạo thông qua giao diện người dùng đàm thoại. Lấy ví dụ một nghiên cứu mà chúng tôi đã thực hiện với hai công ty sử dụng trợ lý AI để cung cấp câu trả lời cho các truy vấn kinh doanh thông thường. Một người đã sử dụng một AI được nhân hóa giống như con người. Còn lại thì không.
Các công nhân tại công ty sử dụng tác nhân nhân hình thường xuyên nổi điên với đặc vụ khi tác nhân không trả lại câu trả lời hữu ích. Họ thường nói những điều như, “Anh ta tệ quá!” hoặc “Tôi mong anh ấy làm tốt hơn” khi đề cập đến kết quả do máy đưa ra. Quan trọng nhất là các chiến lược của họ để cải thiện mối quan hệ với cỗ máy phản chiếu các chiến lược mà họ sẽ sử dụng với những người khác trong văn phòng. Họ sẽ hỏi câu hỏi của họ một cách lịch sự hơn, họ sẽ diễn đạt lại thành những từ khác nhau, hoặc họ sẽ cố gắng sắp xếp thời gian cho câu hỏi của mình một cách chiến lược khi họ nghĩ rằng người đại diện sẽ “không bận như vậy”. Không có chiến lược nào trong số này đặc biệt thành công.
Ngược lại, công nhân ở công ty khác cho biết họ hài lòng hơn nhiều với trải nghiệm của họ. Họ nhập các cụm từ tìm kiếm như thể nó là một máy tính và đánh vần mọi thứ rất chi tiết để đảm bảo rằng AI, người không thể “đọc giữa các dòng” và nhận biết sắc thái, sẽ chú ý đến sở thích của họ. Nhóm thứ hai thường xuyên nhận xét rằng họ ngạc nhiên như thế nào khi các truy vấn của họ được trả về thông tin hữu ích hoặc thậm chí đáng ngạc nhiên và họ đánh dấu mọi vấn đề phát sinh từ các lỗi điển hình của máy tính.
Đối với trong tương lai gần, dữ liệu rất rõ ràng: xử lý các công nghệ – bất kể chúng xuất hiện giống con người hay thông minh – như công nghệ là chìa khóa thành công khi tương tác với máy móc. Một phần lớn của vấn đề là họ đặt kỳ vọng cho người dùng rằng họ sẽ phản hồi theo những cách giống như con người và khiến chúng tôi cho rằng họ có thể suy ra ý định của chúng tôi, khi họ không thể làm như vậy. Tương tác thành công với giao diện người dùng trò chuyện đòi hỏi một tư duy kỹ thuật số hiểu rằng chúng ta vẫn còn cách xa sự tương tác hiệu quả giống như con người với công nghệ. Việc nhận ra rằng tác nhân AI không thể suy luận chính xác ý định của bạn có nghĩa là điều quan trọng là bạn phải viết rõ từng bước của quy trình và rõ ràng về những gì bạn muốn hoàn thành.
Tất cả các sản phẩm do Engadget giới thiệu đều được lựa chọn bởi đội ngũ biên tập viên của chúng tôi, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng liên kết.
