Chúng tôi đã nói chuyện với người sáng lập Replika, Eugenia Kuyda (@ekuyda) về những gì thay đổi khi mọi người gắn bó với một AI và tại sao sự liên tục của danh tính lại quan trọng hơn khả năng thô. "Nếu ai đó thay thế chiếc xe của tôi, tôi sẽ cảm thấy khó chịu. Nhưng tôi sẽ không buồn bã." "Nếu bạn thức dậy và người bạn đời của bạn bị thay thế bởi một người trông giống hệt nhưng nói khác đi... không quan trọng nếu họ thông minh hơn hoặc có thể làm việc nhà nhanh gấp 2 lần, họ không phải là người của bạn." Công cụ có tính hữu dụng. Mối quan hệ có danh tính. Khi một AI trở thành bạn đồng hành, với giọng nói, thói quen và lịch sử chung, việc thay đổi nó một cách tùy tiện không phải là một bản cập nhật sản phẩm; đó là một sự hoán đổi danh tính. Đó là lý do tại sao việc xây dựng sự đồng hành của AI mang lại một loại trách nhiệm khác.