Khi khách hàng hỏi vì sao hệ thống lại trả lời như vậy, tôi muốn giải thích được, để lòng tin của họ không phụ thuộc vào việc họ có tin tôi hay không.

Hoàn cảnh của Job

Ai

Người đối mặt khách hàng trong một công ty vừa gắn AI vào quy trình

Khi nào

Lúc khách hàng không đồng ý với kết quả

Điều kích hoạt

Một khách hỏi "dựa vào đâu mà hệ thống kết luận thế"

Tình thế

Người trả lời khách không phải người dựng hệ thống, và cũng không xem được bên trong

Giới hạn

Phải trả lời ngay trong cuộc gọi, không có thời gian đi hỏi lại

5 Pains

• Không có lời giải thích nào để đưa ra

  Nặng

  Câu trả lời duy nhất là "hệ thống tính vậy", và đó là câu làm mất khách.

  Gốc rễ: Hệ thống được chọn theo độ chính xác, không theo khả năng giải thích

• Không biết dữ liệu nào đã dẫn tới kết quả

  Nặng

  Không có đường lần ngược từ kết luận về đầu vào cụ thể.

  Gốc rễ: Ghi vết được coi là việc kỹ thuật nội bộ, không phải việc phục vụ khách

• Khách nghĩ có ai đó đang thiên vị

  Vừa

  Thiếu lời giải thích thì người ta tự điền vào bằng giả định xấu nhất.

  Gốc rễ: Im lặng luôn được đọc là có gì đó để giấu

• Không sửa được một kết quả riêng lẻ

  Vừa

  Hoặc chấp nhận hệ thống, hoặc bỏ nó — không có nút sửa cho một trường hợp.

  Gốc rễ: Ngoại lệ không được thiết kế vào quy trình

• Nhân viên mất quyền tự quyết

  Vừa

  Người ta thôi tự nghĩ khi biết mọi phản đối đều thua một con số.

  Gốc rễ: Đầu ra của máy được đối xử như quyết định cuối, không như một đề xuất

5 Desired Outcomes

• Nói được kết quả dựa trên những gì

  Chức năng

• Lần ngược được về dữ liệu cụ thể

  Chức năng

• Sửa được một trường hợp mà không phải bỏ cả hệ thống

  Chức năng

• Nhân viên vẫn giữ được quyền nói không

  Xã hội

• Đứng trước khách mà không thấy mình đang bào chữa

  Cảm xúc

5 Existing Solutions

Giải pháp không đồng nghĩa với sản phẩm — khách hàng thuê được cả một hành vi hay một cách chống chế.

• Bản mô tả cách hệ thống hoạt động

  Sản phẩm

  Trả lời câu hỏi chung, không trả lời câu hỏi về trường hợp của khách này.

• Bảng ghi vết truy vấn

  Sản phẩm

  Có đủ dữ liệu để giải thích, và ở dạng chỉ kỹ sư đọc được.

• Người phụ trách xem lại từng ca khiếu nại

  Dịch vụ

  Đường giải quyết thật, và nó không quy mô hoá được.

• Chụp màn hình kết quả để làm bằng

  Cách chống chế

  Nhân viên tự dựng lấy hồ sơ vụ việc vì hệ thống không giữ hộ.

• Nói với khách rằng đây chỉ là gợi ý

  Hành vi

  Hạ kỳ vọng thay vì tăng minh bạch — hiệu quả, và làm giảm giá trị của chính hệ thống.

2 Opportunity Gaps

• Dữ liệu để giải thích thì có, nhưng nó ở dạng chỉ kỹ sư đọc được, còn người cần nó là người đang nói chuyện với khách.

  Vì sao giải pháp hiện có không đủ: Ghi vết được dựng để gỡ lỗi hệ thống, và người dựng nó chưa bao giờ là người phải đứng trước một khách hàng đang giận.

  Cơ hội: Một bản giải thích cho MỘT ca, viết bằng ngôn ngữ nghiệp vụ, mở được ngay trong cuộc gọi.

• Đầu ra của máy được đối xử như quyết định cuối, nên người có kinh nghiệm thôi phản biện.

  Vì sao giải pháp hiện có không đủ: Cho phép ghi đè làm hỏng các con số báo cáo về mức độ tự động hoá, mà đó lại là con số dự án được đánh giá.

  Cơ hội: Coi mỗi lần ghi đè là dữ liệu để cải thiện, thay vì là một vết trừ trong báo cáo.