Khi viết xong cuốn sách này vào cuối năm 2009, tôi đọc được một câu chuyện nhỏ trên báo chí. Edexcel, công ty khảo thí giáo dục lớn nhất tại Anh, thông báo giới thiệu “hệ thống chấm bài luận tự động, dựa trên trí tuệ nhân tạo”. Hệ thống máy tính chấm điểm này sẽ “đọc và đánh giá” các bài luận của sinh viên Anh trong một bài kiểm tra khả năng ngôn ngữ được sử dụng rộng rãi tại đây. Theo một báo cáo trên Times Education Supplement, phát ngôn viên của Edexcel, công ty con thuộc tập đoàn truyền thông Pearson, giải thích rằng hệ thống “mang tới tính chính xác của giám khảo con người nhưng loại bỏ được các yếu tố con người như mệt mỏi hoặc chủ qưan”. Một chuyên gia khảo thí trả lời tờ báo rằng hệ thống máy tính đánh giá bài luận sẽ trở thành trụ cột của ngành giáo dục trong tương lai: “Điều chưa chắc chắn bây giờ là “bao giờ” chứ không phải “nếu””.[432]

Tôi tự hỏi làm thế nào phần mềm Edexcel có thể phân biệt được những sinh viên hiếm hoi có thể phá vỡ các quy tắc viết thông thường, không phải vì thiếu năng lực mà vì họ có tài năng đặc biệt? Tôi biết câu trả lời: phần mềm đó không thể. Như Joseph Weizenbaum đã chỉ ra, máy tính tuân theo các quy tắc chứ không đánh giá. Thay cho tính chủ quan, chúng mang tới các công thức. Câu chuyện tiết lộ về quan điểm của nhà tiên tri Weizenbaum khi nhiều thập kỷ trước, ông cảnh báo rằng khi chúng ta quen hơn và phụ thuộc hơn vào máy tính, chúng ta dễ dàng tin tưởng giao cho chúng “những nhiệm vụ đòi hỏi trí thông minh”. Và khi đã làm vậy thì không có đường quay lại.Phần mềm sẽ trở thành một phần không thể thiếu cho những nhiệm vụ này.

Rất khó cưỡng lại cám dỗ của công nghệ và trong thời đại thông tin chớp nhoáng, lợi ích của tốc độ và hiệu quả rất đáng mơ ước, không có gì phải bàn cãi về điều đó. Tuy nhiên tôi vẫn tiếp tục hy vọng chúng ta sẽ không nhẹ nhàng bước vào tương lai mà các kỹ sư máy tính và kỹ sư lập trình phần mềm đang viết ra.Thậm chí nếu chúng ta không để ý tới lời nói của Weizenbaum thì chúng ta cũng nợ chính bản thân mình việc phải xem xét kỹ những lời nói đó, chú ý tới những thứ chúng ta có thể đánh mất.Sẽ thật đáng buồn biết bao cho việc nuôi dưỡng trí tuệ của con em chúng ta nếu chúng ta chấp nhận không nghi ngờ ý tưởng rằng “các yếu tố con người” đã lỗi thời và có thể bỏ qua.

Câu chuyện về Edexcel một lần nữa khuấy động ký ức của tôi về cái cảnh phim cuối của 2001.Cảnh đó đã ám ảnh tôi kể từ lần đầu tiên xem phim lúc tuổi thiếu niên vào những năm 1970. Điều khiến cảnh phim đó sâu sắc và cũng kỳ lạ là phản ứng cảm xúc của máy tính trước sự tách rời tâm trí: sự tuyệt vọng sau khi một mạch đi vào bóng tối, sự cầu xin trẻ con với phi hành gia – “Tôi có thể cảm nhận được điều đó. Tôi có thể cảm nhận được điều đó. Tôi sợ lắm” – và cuối cùng là trở lại trạng thái trong sáng. Việc bộc lộ cảm xúc của HAL trái ngược với sự vô cảm đặc trưng của các nhân vật con người trong phim, những người thực hiện công việc bằng hiệu quả của người máy. Suy nghĩ và hành động của họ như thể được lập trình sẵn và tuân theo các bước của một thuật toán. Trong thế giới của 2001, con người trở nên giống một cái máy tới mức đối tượng mang tính con người nhiều nhất hóa ra lại là máy móc. Đó là bản chất lời tiên tri đen tối của Kubrick: khi chúng ta dựa vào máy tính làm trung gian cho sự hiểu biết về thế giới thì trí thông minh của chúng ta đã trở thành trí tuệ giả tạo.

HẾT