Trang chủ Trí tuệ nhân tạo (AI) Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo...

Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 3)

lúc 20:00
Táng lên

NHÌN VÀO TƯƠNG LAI TRÍ TUỆ NHÂN TẠO

AGI về bản chất là rất , rất nguy hiểm . Và vấn đề này thực sự không quá khó hiểu . Bạn không cần phải siêu thông minh hoặc siêu thạo tin , hay kể cả siêu trung thực khi tư duy để hiểu được nó . 

MICHAEL VASSAR , CHỦ TỊCH VIỆN NGHIÊN CỨU TRÍ THÔNG MINH MÁY TÍNH

“Tôi chắc chắn rằng mọi người nên cố gắng phát triển Trí tuệ nhân tạo phổ quát với tất cả sự cẩn trọng . Trong trường hợp này , tất cả sự cẩn trọng nghĩa là cẩn trọng hơn nhiều so với sự cần thiết khi làm việc với vi khuẩn Ebola hoặc plutonium . ” Michael Vassar là một người trục 30 tuổi , rắn chắc , ăn vận gọn gàng . Anh có bằng về hóa sinh và kinh tế , thông thạo trong việc tính toán về những thứ có khả năng hủy diệt con người , nên những từ như “ Ebola ” hay “ pluronium nói ra từ miệng anh không mang sắc thái do dự hoặc mỉa mai . Một mặt căn hộ cao cấp của anh toàn là kính từ sản đến trần , nó nhìn được toàn cảnh cây cầu treo màu đỏ nối liền San Francisco và Oakland , California . Đây không phải là cầu Golden Gate mỹ miều – bắc ngang qua thành phố . Cây cầu đỏ này được xem là người chị cùng cha khác mẹ xấu xí của nó . Vassar nói với tôi là những người muốn tự tử vẫn thường lái xe qua cây cầu đỏ này để đến được cây Cầu vàng kia .

Vassar đã cống hiến đời mình để ngăn chặn sự tự tử bình diện lớn hơn . Anh là Chủ tịch Viện nghiên cứu Trí thông minh Máy tính ( Machine Intelligence Research Institute : MIRI ) , một think tank đặt tại thành phố San Francisco được lập ra nhằm chống lại thảm họa diệt chủng đến từ bàn tay , hoặc chính xác hơn , từ những byte dữ liệu của trí tuệ nhân tạo . Trên trang web của mình , MIRI đăng những bài viết đáng suy ngẫm về những khía cạnh nguy hiểm của AI , và tổ chức Hội nghị thượng đỉnh thường niên về Singularity . Trong hai ngày họp , các lập trình viên , nhà khoa học về thần kinh , giới học thuật , nhà tiên phong , nhà đạo đức học và nhà phát minh báo cáo về những tiến bộ và khó khăn trong cuộc cách mạng AI đang diễn ra . MIRI mời cả những người tin và không tin vào AI tham gia trao đổi , Có những người không nghĩ rằng Singularity sẽ xảy ra , và có những người nghĩ rằng MIRI là một hội sùng bái ngày tận thế công nghệ .

Vassar mỉm cười trước ý nghĩ đó . “ Những người đến làm việc cho MIRI là thái cực đối lập của những kẻ cuồng tín . Thường thì họ hiểu rõ về sự nguy hiểm của AI , thậm chí trước khi họ biết về sự tồn tại của MIRI . ”

Tôi không biết MIRI tổn tại cho đến khi được nghe về Thí nghiệm chiếc hộp AI . Một người bạn kể với tôi về nó , nhưng khi kể đã nói sai nhiều về thiên tài cô độc và các đối thủ triệu phú của người này . Tôi dò tìm được câu chuyện này ở trang web của MIRI , và phát hiện người sáng tạo ra Thí nghiệm , Eliezer Yudkowsky , là nhà đồng sáng lập MIRI ( tên cũ là viện Singularity về trí tuệ nhân tạo ) cùng với các nhà tiên phong công nghệ Brian và Sabine Atkins . Dù nổi tiếng là ít nói , nhưng Yudkowsky và tôi đã trao đổi email , ông nói thẳng cho tôi biết những chi tiết của cuộc thí nghiệm .

Vụ cá cược giữa Yudkowsky đóng vai AI với Người giữ cửa có nhiệm vụ kiểm soát ông chỉ ở mức vài ngàn đô – la , chứ không phải hàng triệu . Trò chơi diễn ra năm lần , và AI trong hộp đã thắng ba lần . Nghĩa là AI thường thoát khỏi nhà tù , nhưng sẽ chẳng dễ dàng . Một phần của câu chuyện đồn đại về chiếc hộp AI là đúng – Yudkowsky vốn là một người ẩn dật , tiết kiệm thời gian và giữ bí mật về nơi ông sống . Không đợi được mời , tôi đã đến nhà Michael Vassar , vì tôi thấy vui và ngạc nhiên khi một tổ chức phi lợi nhuận đã được thành lập để chống lại mối nguy từ A1 , một nơi quy tụ những người trẻ tuổi , sáng láng đã dành cuộc đời mình cho vấn đề này . Tôi hy vọng cuộc nói chuyện với Vassat rốt cuộc sẽ mở đường cho tối đến trước cửa nhà Yukowsky .

Trước khi bắt đầu theo đuổi sự nghiệp ngăn chặn nguy cơ AI , Vassar đã lấy bằng MBA và kiếm được tiền nhờ đồng sáng lập ra Sir Groovy, một công ty nhượng quyền âm nhạc online , Sir Groovy kết nối các thương hiệu âm nhạc độc lập với các nhà sản xuất chượng trình TV và phim để cung cấp nhạc nền từ những nghệ sĩ ít nổi tiếng và đòi thủ lao rẻ hơn . Vassar đã ấp ủ ý tưởng nghiên cứu về các rủi ro của công nghệ nano cho đến năm 2003 . Năm đó anh gặp Eliezer Yudkowsky , sau khi đã đọc những công trình của ông trên mạng trong nhiều năm . Anh biết về MIRI , và về một sự đe dọa còn cận kề và nguy hiểm hơn Công nghệ nano : trí tuệ nhân tạo ,

“ Tôi trở nên cực kỳ quan ngại về một nguy cơ thảm họa toàn cầu đến từ AGI , sau khi Eliezer thuyết phục tôi rằng AGI có thể sẽ được phát triển trong một khung thời gian ngắn và với một ngân sách tương đối nhỏ . Tôi không có một lý do xác đáng nào để nghĩ rằng AGI sẽ không sảy ra vào 20 năm tới . ” Điều đó đã đến với 1 năm tới . ” Điều đó đã đến sớm hơn cả những dự đoán về công nghệ nano . Và việc phát triển AGI sẽ có chi phí thấp hơn nhiều . Vậy là Vassar thay đổi hướng đi .Khi chúng tôi gặp nhau , tôi thú thật là mình chưa nghĩ nhiều về chuyện những nhóm nhỏ với vốn ít có thể xây dựng được AGI . Trong những cuộc thăm dò ý kiến mà tôi từng biết , chỉ một số ít chuyên gia tiên đoán là một nhóm kiểu thế có thể sẽ thành công .

Vậy liệu Al – Qaeda có thể tạo ra AGI không ? FARC CÓ thể không ? Hay là Aum Shinrikyo ?

” Vassar không nghĩ rằng một tổ chức khủng bố có thể tạo ra AGI . Đây là chuyện về IQ .

“ Những kẻ xấu thực sự muốn hủy diệt thế giới thường không giỏi việc đó . Anh biết đấy , loại người này thiếu những năng lực cần thiết trong việc lập kế hoạch dài hạn để thực hiện bất cứ chuyện gì . ”

Nhưng Al – Qaeda thì sao ? Chẳng phải những cuộc tấn công trước và trong ngày 11 / 9 đòi hỏi trình độ tưởng tượng và khả năng lập kế hoạch cao đó sao ?

“ Những chuyện đó không sánh được với việc chế tạo AGI , Lập trình cho một ứng dụng để nó làm được việc gì đó giỏi hơn con người đòi hỏi tài năng và sự tổ chức cao hơn rất nhiều lần những gì mà sự tàn bạo của Al – Qaeda thế hiện , chứ chưa nói đến hàng loạt những khả năng phức tạp của AGL . Nếu AGI dễ như thế thì những người thông minh hơn Al – Qaeda hẳn đã tạo ra nó rồi.

Vậy những chính phủ kiểu như Triều Tiên và Iran thì sao ?

“ Khách quan mà nói, trình độ khoa học của những thể chế yếu kém đó rất tệ . Đức Quốc Xã là ngoại lệ duy nhất, và, ùm, nếu Đức Quốc xã trỗi dậy lần nữa thì chúng ta sẽ gặp những vấn đề rất lớn , dù có hay không có AI .

Tôi không đồng ý , ngoại trừ về Đức Quốc Xã. Iran và Triều Tiên đã tìm được con đường công nghệ cao để đe dọa phần còn lại của thế giới quanh việc hát triển vũ khí hạt nhân và các loại tên lửa liên lục địa . Vì vậy tôi không thể gạch các nước này đối danh sách ngắm những tổ chức có tiềm năng để tạo AGI , khi họ vốn đã quen phớt lồ sự chế tạo được AGI, thì bất kỳ nước nào cũng có thể tài trợ cho một nhóm như thế.

Khi Vassar nói về các nhóm nhỏ, anh đã bao gồm cả những công ty hoạt động ngoài tầm phủ sóng. Tôi đã nghe về cái gọi là ” công ty ẩn danh”, chúng được thành lập mà không công bố, tuyển dụng bí mật, không bao giờ họp báo hoặc phát hành thông cáo báo chí hay hé lộ về những gì mình làm.  Trong Al , lý do duy nhất mà một công ty muốn ẩn danh là vì họ đã có những tiến bộ vượt bậc , và không muốn đối thủ cạnh tranh biết được họ đã đột phá đến đâu . Về cơ bản , những công ty ẩn danh rất khó để tìm hiểu , mặc dù có nhiều tin đồn . Nhà sáng lập Paypal , Peter Thiel , đã rót vốn cho ba công ty ấn danh chuyên về AI .

 Tuy nhiên , những công ty ở trong “trạng thái ẩn” thì hơi khác và hay gặp hơn . Những công ty này kêu gọi nguồn vốn và thậm chí công khai , nhưng không hé lộ những kế hoạch của họ . Peter Vass , một nhà phát minh Al được biết đến trong lĩnh vực phát triển công nghệ nhận dạng giọng nói , theo đuổi AGI bằng công ty Adaptive AI của mình . Ông tuyên bố có thể chế tạo được AGI trong vòng 10 năm . Nhưng ông không nói bằng cách nào .

Những công ty ẩn danh tạo nên sự phức tạp khác . Một công ty nhỏ , tích cực có thể tồn tại trong lòng một công ty lớn và nổi tiếng . Google thì sao ? Vì sao tập đoàn khổng lồ và giàu có này không chiếm lấy chiếc chén thánh AI?

Khi được tôi phỏng vấn tại mộc hội thảo về AGI , Tea Norwig Giám đốc nghiên cứu của Google và đồng tác giả cuốn giáo khoa kinh điển về AI mang tên Artificial Intelligence: A Mordern Approach (Trí tuệ nhân tạo: Tiếp cận hiện đại ) , nói rằng Google không nghiên cứu AGI . Ông so sánh nó với kế hoạch của NASA về việc đưa con người du hành liên hành tinh . Không có kế hoạch nào như thế cả . Nhưng NASA sẽ tiếp tục phát triển các ngành khoa học tổ hợp về du hành vũ trụ như tên lửa , robot , thiên văn . . . – và rồi một ngày nào đó tất cả các mảnh sẽ được ghép lại với nhau , và chuyện đặt chân đến sao Hỏa sẽ không còn xa xôi .

Cũng như thế , các dự án AI hẹp sẽ làm những nhiệm vụ đòi hỏi trí thông minh như tìm kiếm , nhận dạng giọng nói , xử lý ngôn ngữ tự nhiên , nhận thức hình ảnh , khai thác dữ liệu và nhiều việc khác . Một cách riêng rẽ , chúng được tài trợ đầy đủ , là những công cụ mạnh , được cải tiến ngoạn mục mỗi năm . Cùng với nhau , chúng sẽ phát triển khoa học máy tính và điều đó sẽ có lợi cho các hệ thống AGI .

Tuy nhiên , Norwig nói với tôi , hiện Google không có chương trình AGI nào . Nhưng hãy so sánh nó với những gì mà sếp của ông , Larry Page , đồng sáng lập Google , nói tại hội thảo Zeitgeist 06 ở London :

Mọi người luôn giả định rằng chúng tôi đã hoàn thiện công nghệ tìm kiếm . Điều đó còn xa mới là sự thật . Chúng tôi có lẽ mới chỉ đi được 5 % quãng đường . Chúng tôi muốn tạo ra cơ chế tìm kiếm tối cao mà có thể hiểu mọi thứ . . . có thể một số người sẽ gọi nó là tri tuệ nhân tạo . . . Cơ chế tìm kiếm tối cao này sẽ hiểu mọi thứ trong thế giới này . Nó sẽ hiểu mọi thứ bạn hỏi và trả lời chính xác ngay lập tức . . . Bạn có thể hỏi “ tôi nên hỏi Larry điều gì đây ? ” và nó sẽ trả lời bạn .

Với tôi , điều đó nghe rất giống AGI . Với nhiều dự án được đầu tư tốt , IBM theo đuổi AGI , và DARPA dường như đứng đằng sau mọi dự án về AGI mà tôi biết . Vậy , một lần nữa , tại sao Google lại không ? Khi tôi hỏi Jason Freidenfelds , thuộc bộ phận PR của Google , ông viết :

. . . còn quá sớm để chúng tôi nghiên cứu về vấn đề xa vời này . Chúng tôi hiện đang tập trung hơn vào các công nghệ đào tạo máy tính thực tiễn như thị giác máy tính , nhận dạng giọng nói và dịch thuật tự động , những việc mà về cơ bản là xây dựng các mẫu thống kê để khớp với những mẫu có sẵn – không có gì gần gũi với viễn cảnh “cỗ máy tư duy của AGI .

Tôi nghĩ câu trả lời của Page thể hiện rõ hơn về thái độ của Google so với câu trả lời của Freidenfelds . Và nó giải thích cho sự phát triển của Google , từ một công ty có tầm nhìn xa trông rộng nổi lên vào những năm 1990 với khẩu hiệu rất chào hàng “ Đừng xấu xa, Don’t be Evil ” trở thành không minh bạch như hiện nay , một gã khổng lồ chuyên thu thập dữ liệu cá nhân , mang hơi hướng tiểu thuyết Orwell . “

Chính sách bảo mật của Công ty cho phép thông tin cá nhân của bạn được chia sẻ giữa các dịch vụ Google như Gmail , Google + , YouTube và những thứ khác . Những người bạn biết , nơi bạn đến , thứ bạn mua , người bạn gặp , lịch sử duyệt web – Google thu thập tất cả . Mục đích công khai của chuyện này là để tăng cường hiệu quả dùng Internet bằng cách làm cho công cụ tìm kiếm thấu hiểu mọi thứ về bạn . Còn mục đích không nói ra là nó sẽ biết được cần phải cho bạn xem loại quảng cáo gì , thậm chí loại tin tức , video , hoặc âm nhạc gì , và tự động đưa bạn vào những chiến lược tiếp thị tương ứng . Kể cả những chiếc ô tô mang máy ảnh của Google vẫn dùng để chụp ảnh ” Street View ” cho Google Maps cũng là một phần của kế hoạch này – trong vòng ba năm , Google dùng những chiếc xe này để thu thập dữ liệu từ những mạng wifi riêng tư ở Mỹ và những nước khác . Mật khẩu , lịch sử dụng Internet , các email cá nhân – chẳng có gì là ngoại lệ . ”

Một điều rõ ràng là họ không đặt những khách hàng trung thành như chúng ta ở đúng vị trí thượng đế của mình . Vì thế dường như không thể hiểu tại sao Google không quan tâm đến AGI . Sau đó , khoảng một tháng kể từ lần trao đổi gần nhà với Freidenfelds , tờ New York Times bật mí câu chuyện về Google X . Google X là một công ty ẩn danh . Phòng nghiên cứu bí mật đặt tại Thung lũng Silicon lúc đầu được chuyên gia Al và nhà phát triển xe tự lái của Google , Sabastian Thrun , dẫn dắt . Nó tập trung vào 100 dự án ” bắn – Mặt – trăng ” như Thang máy Vũ trụ , thứ mà về cơ bản là một hệ thống giàn giáo khổng lồ vươn vào vũ trụ và giúp chúng ta thám hiểm hệ Mặt trời . Trong cơ sở ẩn danh này còn có Andrew Ng , cựu Giám đốc Phòng Nghiên cứu Trí tuệ nhân tạo của Đại học Stanford , một nhà chế tạo robot đẳng cấp thế giới . .

Cuối cùng , vào cuối năm 2012 , Google tuyển dụng Ray Kurzweil , nhà phát minh uy tín kiêm tác giả , vào vị trí giám đốc kỹ thuật .  Kurzweil giữ một danh sách dài về những thành tựu trong lĩnh vực AI , và đã đề xướng con đường nghiên cứu não bộ như một cách trực tiếp nhất để đạt tới AGI . Chúng ta không cần phải có kính Google Glass để thấy rằng nếu Google X đã tuyển ít nhất hai trong số những nhà khoa học AI hàng đầu , thì AGI hắn phải xếp thứ hạng cao trong danh sách các dự án “ bán – Mặt – trăng ” của nó . Tìm kiếm ưu thế cạnh tranh trong thị trường , Google X và những công ty ẩn danh khác có thể sẽ tạo ra AGI mà công chúng chẳng hay biết . Những công ty ẩn danh có thể đại diện cho lộ trình bất ngờ dẫn đến AGI . Nhưng theo Vassar , cách nhanh nhất đạt đến AGI sẽ rất công khai và tốn kém . Lộ trình đó cần kỳ nghệ giải mã ngược bộ não con người , sử dụng sự kết hợp giữa kỹ năng lập trình và Công nghệ “ brute force .” Đây là thuật ngữ chỉ cách giải quyết một vấn đề chủ yếu bằng sức mạnh phần cứng máy tính – rất nhiều vi xử lý tốc độ cao , hàng penabyte bộ nhớ – cộng thêm các kỹ xảo lập trình .

Phiên bản tuyệt đỉnh của công nghệ brute force sẽ hiện diện nhờ công nghệ sinh học , ” Vassar nói với tôi . “ Nếu người ta tiếp tục dùng máy tính để phân tích các hệ sinh học , giải mã các quá trình trao đổi chất , tìm hiểu cặn kẽ những mối tương quan phức tạp trong sinh học , trước sau gì họ cũng sẽ thu thập được nhiều thông tin về quá trình xử lý thông tin của các neuron thần kinh . Và một khi họ có đủ thông tin về các quá trình đó , thì thông tin đó có thể dùng vào việc chế tạo AGI . ”

Nó hoạt động như sau : Sự suy nghĩ xảy ra qua các quá trình sinh hóa trong những phần của bộ não như neuron , khớp thần kinh , và các chân rễ của neuron . Bằng nhiều kỹ thuật khác nhau , trong đó có Công nghệ quét PET và MRI chức năng cho não , cũng như đặt các bộ dò thần kinh vào trong và ngoài sọ não , các nhà nghiên cứu xem xét các neuron riêng lẻ và các cụm neuron hoạt động như thế nào về mặt điện toán . Sau đó họ biểu thị mỗi quá trình trên thành những phần mềm hoặc thuật toán máy tính.

Đó là bước đột phá trên lĩnh vực khoa học thần kinh điện toán mới mẻ . Một trong những chuyên gia hàng đầu trong lĩnh vực này , Tiến sĩ Richard Gratiger , Giám đốc Phòng nghiên cứu Kỳ nghệ não bộ của Đại học Dartmouth , đã viết những thuật toán mô phỏng các tại neuron trong bộ não người . Ông thậm chí đã sáng chế ra một bộ vi xử lý cực mạnh dựa trên cách những mạng neuron hoạt động . Khi nó được đưa ra thị trường , chúng ta sẽ được thấy một bước nhảy vọt trong cách các hệ thống máy tính nhận dạng hình ảnh đồ vật , vì chúng hoạt động tương tự như não người .

Còn rất nhiều mạng neuron để dò và về bản đồ . Nhưng một khi bạn đã viết được những thuật toán cho mọi quá trình trong não , xin chúc mừng bạn đã tạo ra được một bộ não . Thật vậy không ? Có thể là không . Có thể cải bạn tạo ra chỉ là một cỗ máy giả lập não người . Đây là một câu hỏi lớn trong ngành AI . Ví dụ , một chương trình chơi cờ vua có suy nghĩ không ?

Khi IBM xây dựng máy chơi cờ Deep Blue để rồi đánh bại những kỳ thủ mạnh nhất thế giới , họ không lập trình cho nó chơi cờ theo kiểu của nhà vô địch thế giới Gary Kasparov . Họ không biết cách . Kasparov phát triển kỹ năng của mình bằng cách chơi rất nhiều ván cờ , và còn phân tích nhiều ván cờ hơn . Anh phát triển một kho khổng lồ những kiểu khai cuộc , tấn công , lừa , chặn , nhử mồi , thí quân , tàn cuộc – những chiến thuật và chiến lược . Anh nhận ra các hình mẫu thể trận , ghi nhớ , và suy nghĩ , Kasparov thường nghĩ trước từ ba đến năm nước đi , nhưng khi cần có thể nghĩ xa đến 14 nước . Vào thời điểm đó , không máy tính nào có thể làm vậy .

Thay vào đó , IBM lập trình cho máy tính để nó định giá 200 triệu thể cờ trong một giây .

Đầu tiên Deep Blue đi một nước giả định , và duyệt tất cả các nước trả lời có thể của Kasparov . Nó sẽ đi một nước giả định tiếp theo , đáp lại cho mỗi một nước trả lời trên , và sau đó lại duyệt tất cả các nước của Kasparov . Cách làm này gọi là thuật tìm kiếm hai lớp – thỉnh thoảng Deep Blue sẽ tìm sâu đến sau lớp . Nó có nghĩa là duyệt tất cả các khả năng sau khi mỗi bên đi sáu nước .

Thế rồi Deep Blue sẽ quay lại thể cờ ban đầu , lại đi một nước giả định khác . Nó sẽ lặp lại quá trình này cho tất cả những nước hợp lệ , rồi cho điểm từng biến , tùy theo trong biển đó nó có ăn được quân không , các quân của nó đứng có hợp lý không , và thế trận của nó thế nào . Cuối cùng , nó sẽ chơi nước có điểm cao nhất .

Deep Blue Có suy nghĩ không ?

Có thể . Nhưng ít ai nghĩ rằng nó suy nghĩ theo cách của con người . Và một số chuyên gia nghĩ rằng điều tương tự sẽ xảy ra với AGI . Mỗi nhà nghiên cứu tìm cách dạy dc AGI theo một cách riêng . Một số sử dụng cách tiếp cận thuần túy sinh học , tạo ra sự mô phỏng bộ não . Những người khác lấy cảm hứng từ sinh học , coi bộ não là một gợi ý , nhưng dựa vào bộ công cụ chính thống để lập AI như lập các ý thuyết , các thuật toán tìm kiếm , thuật toán học hỏi , suy luận tự động và nhiều thứ khác .

Chúng ta sẽ tìm hiểu về những thứ trên , và khảo sát cách bộ não người sử dụng nhiều kỹ thuật tính toán giống máy tính . Nhưng vấn đề là , liệu máy tính có suy nghĩ như cách chúng ta định nghĩa suy nghĩ , hoặc nó có bao giờ sở hữu những thứ như ý muốn hoặc sự nhận thức không , là một điều không rõ ràng . Do đó , một số học giả nói , trí tuệ nhân tạo không thể tương đương với trí tuệ con người.

Nhà triết học John Scarle đưa ra một thí nghiệm tưởng tượng với tên gọi Tranh luận về căn phòng tiếng Trung để chứng minh điểm này :

Hãy tưởng tượng một người nói tiếng Anh bản ngữ và không biết tiếng Trung bị nhốt trong một căn phòng đấy những hộp ký tự tiếng Trung ( cơ sở dữ liệu ) cùng Với một cuốn sách hướng dẫn cách thao tắc trên các ký tự đó ( chương trình ) , Hãy tưởng tượng những người ở ngoài căn phòng gửi vào một số ký tự tiếng Trung mà người trong phòng không đọc được , chúng là những câu hỏi bằng tiếng Trung ( đầu vào ) . Và hãy tưởng tượng rằng bằng cách tuân thủ các hướng dẫn trong chương tình , người trong phòng có thể chuyển và ngoài các ký tự tiếng Trung , chúng là những câu trả lời chính xác cho những câu hỏi ( đầu ra ) . “

Người trong phòng trả lời chính xác , cho nên những người ở ngoài nghĩ rằng anh ta có thể giao tiếp bằng tiếng Trung . Nhưng thật ra anh ta không biết một chữ tiếng Trung nào , Searle kết luận , giống như anh ta , một máy tính sẽ không bao giờ thực sự suy nghĩ hoặc hiểu . Điều tốt nhất mà các nhà nghiên cứu sẽ có được từ những nỗ lực trong kỹ nghệ đảo ngược bộ não là một mô phỏng tinh vi . Và các hệ thống , AGI sẽ đạt được những kết quả máy móc tương tự .

Searle không phải là người duy nhất tin rằng máy tính sẽ không bao giờ tư duy hoặc có khả năng nhận thức . Nhưng ông gặp nhiều chỉ trích cùng nhiều lời phàn nàn khác nhau . Một số người gièm pha cho rằng ông mắc hội chứng sợ máy tính . Nếu coi mọi thứ trong căn phòng tiếng Trung kể cả người nọ là cả một hệ thống hoàn chỉnh , thì nó ” hiểu ” đúng tiếng Trung . Điều này cho thấy lập luận của Scarle là vòng vo : không bộ phận nào của căn phòng ( máy tính ) hiểu tiếng Trung , do đó chiếc máy tính này không thể hiểu tiếng Trung.

Bạn có thể áp dụng lập luận của Searle cho con người một cách dễ dàng chúng ta không có một định nghĩa chinh thức cho việc hiếu một ngôn ngữ thực sự là gì , vậy làm sao dùng ta có thể cho rằng con người “ hiểu ” ngôn ngữ? Chúng ta chỉ quan sát để xác nhận rằng ngôn ngữ là hiểu được . Giống như những người bên ngoài căn phòng của Scarle.

Và thực ra , những quá trình của não bộ , thậm chí cả ý thức , thì có gì đặc biệt đến thế ? Chỉ vì hiện nay chúng ta chưa hiểu ý thức , không có nghĩa rằng chúng ta sẽ không bao giờ hiểu . Nó chẳng phải là phép màu .

Tuy vậy , tôi đồng ý với Searle và cả những người chỉ trích ông . Searle đã đúng khi nghĩ rằng AGI sẽ không giống chúng ta . Nó sẽ đây những công nghệ điện toán mà không ai thực sự hiểu hết quá trình hoạt động . Và những hệ thống máy tính được thiết kế để tạo ra AGI , được gọi là “ các kiến trúc nhận thức , ” cũng có thể quá phức tạp nên không ai có thể nắm bắt . Nhưng những người chỉ trích Scarle cũng đúng khi cho rằng đến một ngày nào đó AGI hoặc ASI có thể suy nghĩ như chúng ta , nếu ngày đó chúng ta còn tồn tại .

Tôi không nghĩ chúng ta sẽ chứng kiến điều đó . Tôi nghĩ trận Waterloo của chúng ta nằm ngay trong tương lai gần , trong AI của ngày mai và trong AGI sẽ xuất hiện trong một hoặc hai thập niên tới . Sự sống sót của chúng ta , nếu có thể , phụ thuộc nhiều thứ , trong đó có việc phát triển được AGI với một số thuộc tính tương tự như sự nhận thức , hiểu biết , thậm chí thân thiện , như con người . Nó đòi hỏi ít nhất là một sự hiểu biết tinh tế về máy móc thông minh , để không có những điều bất ngờ .

Hãy trở lại với một định nghĩa thông thường về Singularity , được gọi là “ technological Singularity ” – Điểm kỳ dị trong tiến trình công nghệ . Nó dùng để chỉ một thời kỳ lịch sử khi con người chúng ta chia sẻ hành tinh này với những thứ thông minh hơn mình . Ray Kurzweil để xuất rằng chúng ta sẽ hợp nhất với máy móc, duy trì sự tồn tại của mình . Những người khác thì cho rằng máy móc sẽ trợ giúp đời sống con người , nhưng chúng ta sẽ tiếp tục sống theo cách hiện nay , không phải như những cyborg nửa người – nửa máy . Và một số khác , như tôi , nghĩ rằng tương lai thuộc về những cỗ máy .

Viện nghiên cứu Trí thông minh Máy tính đã được thành lập để bảo đảm rằng cho dù những hậu duệ của chúng ta có dạng thế nào đi nữa , thì những giá trị của chúng ta vẫn sẽ được bảo tồn .

Trên căn hộ cao cấp tại San Francisco , Vassar nói với tôi : “ Chúng tôi đặt cược vào việc chuyển tải các giá trị nhân văn đến những người thừa kế của nhân loại . Và qua họ , tới vũ trụ . ”

Đối với MIRI , AGI đầu tiên ra khỏi hộp sẽ phải an toàn , và mang giá trị nhân văn đến với những hậu duệ của loài người dù họ ở trong bất cứ hình hài nào . Nếu AGI không an toàn , con người và những gì con người trân quý sẽ bị xóa số , Và đây không chỉ đơn thuần là tương lai của Trái đất . Như Vassar đã nói với tôi : “ Sứ mệnh của MIRI là làm cho điểm kỳ dị công nghệ xảy ra theo con đường tốt đẹp nhất có thể , để mang đến một tương lai tươi sáng nhất cho vũ trụ này . ” Cái kết cục tốt đẹp của vũ trụ đó , nó sẽ như thế nào !

Qua khung cửa sổ trời . Vassar ngắm nhìn giao thông giờ cao điểm đang bắt đầu dồn ứ trên cây cầu sắt dẫn đến Oakland .  Tương lai ở một nơi nào đó tận bên kia chân trời . Trong đầu anh , siêu trí tuệ nhân tạo đã thoát khỏi chúng ta . Nó đã thuộc địa hóa hệ Mặt trời , rồi cả hệ Ngân hà . Giờ đây nó đang tái định dạng toàn vũ trụ bằng những dự án xây dựng siêu khổng lồ , và trở thành một thứ gì đó quá xa lạ so với tầm hiểu biết của chúng ta .

Trong tương lai đó , anh nói với tôi , cả vũ trụ này trở thành một máy tính hoặc bộ óc , nó vượt xa tầm hiểu biết của chúng ta như một con tàu vũ trụ so với loài sán dẹp . Kurzweil viết rằng đây là định mệnh của vũ trụ . ” Những người khác đồng ý , nhưng tin rằng với sự phát triển liều lĩnh các AI cao cấp , chúng ta sẽ chắc chắn hủy diệt chính mình cũng như các thực thể sống khác trong vũ trụ . Cũng như việc ASI không căm ghét hoặc yêu quý chúng ta , nó sẽ không có tình cảm gì đối với các sinh vật khác trong vũ trụ này . Cuộc tìm kiếm AGI của chúng ta phải chăng chính là khởi điểm của một bệnh dịch tầm cở Ngân hà

Khi rời căn hộ của Vassar , tôi tự hỏi điều gì sẽ ngăn cản viễn cảnh mạt thế này trở thành hiện thực . Cái gì sẽ ngăn chặn thứ AGI hủy diệt này ? Hơn nữa , liệu có những lỗ hổng trong thuyết mạt thế này?

Tất nhiên , những người xây dựng Al và AGl có thể làm cho nó “ thân thiện ,” để bất kỳ thứ gì tiến hóa từ AGI sẽ không hủy diệt chúng ta và những sinh vật khác trong vũ trụ . Hoặc , chúng ta có thể đã sai về những khả năng và “ động cơ ” của AGI , và nỗi lo về cuộc chinh phạt vũ trụ của nó có thể là không cần thiết .

Có lẽ AI không thể phát triển thành AGI và hơn thế , hoặc có lẽ có những lý do để nghĩ rằng nó sẽ xảy ra theo một chiều hướng khác và dễ quản lý hơn những gì chúng ta hiện đang nghĩ . Tóm lại , tôi muốn biết điều gì có thể đặt chúng ta vào một hành trình đến tương lai an toàn hơn .

Tôi dự định hỏi chuyện người tạo ra Thí nghiệm chiếc hộp AI , Eliezer Yudkowsky . Ngoài việc tạo ra thí nghiệm đó , tôi cũng nghe nói ông hiểu nhiều về AI Thân thiện hơn bất cứ ai trên thế giới .

Phần 1: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 1)

Phần 2: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 2)

Phần 3: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 3)

Phần 4: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người (Phần 4)

James Barrat

Sách: Phát Minh Cuối Cùng – Trí tuệ nhân tạo và sự cáo chung của kỷ nguyên con người

Táng lên

MỚI CẬP NHẬT