Tiểu thuyết đoạt giải Akugatawa “Tháp đồng cảm Tokyo” được ban giám khảo nhận xét là “hoàn hảo đến mức khó tìm ra lỗi” và “được yêu thích khắp mọi nơi”, nhưng khi tác giả Qudan công khai việc cô sử dụng AI trong quá trình sáng tác, cô đã làm dấy lên một làn sóng tranh cãi. Tuy nhiên, nếu bạn đọc sách, bạn sẽ thấy AI là chủ thể được đề cập đến chứ không phải là công cụ mà tác giả sử dụng để viết hộ cô.

Trong tiểu thuyết, Qudan đặt Sara, nữ kiến trúc sư đang kiệt sức giữa áp lực thiết kế tháp và đời sống riêng, trước một bối cảnh rất quen thuộc thời AI: cô mở chatbot để trò chuyện. Ngay lập tức, đối thoại diễn ra trôi chảy với câu chữ êm mượt, hợp lý, đúng mực, luôn biết đáp lại kỳ vọng của người chat. Chính từ độ trơn tru ấy, tác phẩm cố ý khuấy lên cảm giác thiếu vắng, một thứ đồng cảm hoàn hảo về ngôn ngữ nhưng rỗng về trải nghiệm đạo đức. Từ đây, Qudan khéo léo để người đọc tự tìm đến những suy ngẫm riêng.

Thứ nhất, sự an ủi do AI kiến tạo có thể làm phẳng xung đột luân lý bằng một lớp ngôn ngữ hợp lý, khiến nhân vật lẫn lộn giữa “lời đúng” và “điều đúng”. Nói cách khác, cái thiếu không phải dữ kiện mà là độ gai góc của ký ức, của tổn thương, của trách nhiệm trong đời sống thật mà chỉ quan hệ giữa con người với con người mới truyền tải được.

Thứ hai, tính trơn tru có thể dễ dàng thao túng cảm xúc theo cách giống như thôi miên. Một cấu trúc an ủi tối ưu để giảm ma sát có thể tạo nên cảm động tức thì, nhưng lại không để lại cái nhức nhối đạo đức trong tâm trí; vì thế, nó không khơi nổi hành động hay tự vấn bền lâu. Đây là một phê bình trực diện đối với việc dùng AI như bạn tâm giao: chúng ta có ngôn ngữ đúng, nhạc điệu đúng, nhưng lại thiếu đi trải nghiệm thực làm nền cho ý nghĩa.

Sau cùng, AI không đứng một mình mà nó đan xen và tương tác với các lĩnh vực xã hội, từ cách thiết kế không gian giam giữ, cách tổ chức kiến trúc đô thị, cho đến cách định hình vai trò giới. Mở ngoặc ở đây một chút: tháp đồng cảm trong tiểu thuyết là một nhà tù kiểu mới, nơi tội phạm được giam trong một môi trường sống lý tưởng (dựa trên niềm tin rằng người ta phạm tội là do môi trường xấu, hoàn cảnh xấu, nếu được sống trong một môi trường “sạch” và chỉ nói/nghe những lời tích cực thì ai cũng là người tốt). Vấn đề đặt ra là khi một hệ thống ngôn ngữ nhân đạo bao gồm chỉ toàn ngôn từ tích cực, loại bỏ ngôn từ tiêu cực được AI hỗ trợ để tạo văn bản, thì ngôn từ rất có thể hợp thức hóa chính sách trước cả khi kinh nghiệm xã hội kịp kiểm chứng. Càng mượt mà càng bất an, bởi vì thực tại bị buộc phải khớp với câu chữ mượt mà ấy.

Trong ảnh và dưới đây là hai đoạn trích thể hiện suy nghĩ của nhân vật Sara khi chat với AI:

“AI-built ngay lập thức kiến tạo câu trả lời. Tôi thích AI ở điểm nó không bỏ qua thắc mắc ngay cả khi tôi nói chuyện không đúng cấu trúc câu. Miễn sao thứ tôi gõ ra là ngôn từ, AI sẽ phản hồi lại ngay lập tức. Nó cứ miệt mài xây dựng câu văn, cặm cụi đến đáng yêu.”