Nhiều người biết tôi có thể xác nhận rằng tôi khá phê phán nhiều vấn đề, và ở một khía cạnh nào đó, tôi thậm chí còn thể hiện khá nhiều chủ nghĩa tối đa. Tôi thật khó để làm hài lòng. Đặc biệt là khi nói đến sách. Tôi thường chỉ trích những người hâm mộ khoa học viễn tưởng, tôn giáo, truyện trinh thám và nhiều thứ vô nghĩa khác. Tôi nghĩ đã đến lúc phải quan tâm đến những việc thực sự quan trọng và ngừng sống trong ảo tưởng về sự bất tử.
Trong một cuộc thảo luận với một trong những người bạn tốt của tôi, sau lần phẫn nộ tiếp theo của tôi về việc tôi liên tục được đưa ra nhiều điều vô nghĩa (cùng một chủ đề khoa học viễn tưởng), anh ấy đã khuyên tôi nên đọc cuốn sách “Cuộc sống 3.0. Là con người…". Tôi xấu hổ khi thừa nhận rằng tôi đã tải nó xuống từ lâu và thậm chí không để ý đến nó, cùng với sự lựa chọn tuyệt vời của Dynasty Foundation. Tôi rất khó để làm hài lòng, bởi vì... Nói một cách nhẹ nhàng thì tôi đã đọc qua khá nhiều cuốn sách. Nhưng tôi thích cuốn này, và tôi quyết định không chỉ trả lời câu hỏi của anh ấy liệu nó có đáng để nghiên cứu hay không mà còn viết bài phê bình của riêng mình, bởi vì, mặc dù thực tế là cuốn sách đáng được quan tâm, nhưng vẫn có một cái gì đó để làm việc.
Tôi muốn tin rằng bài đánh giá của tôi sẽ không bị nhấn chìm trong làn sóng tràn ngập và thư rác, và sẽ đến được với không chỉ độc giả mà còn cả những nhà văn, những người sẽ tính đến những thiếu sót trong các tác phẩm tiếp theo. Tất nhiên, dưới đây chỉ là ý kiến chủ quan của tôi, nhưng tôi sẽ cố gắng chứng minh nó nhiều nhất có thể. Mặc dù thực tế là, luôn là thảm họa, không có thời gian cho mọi thứ và trên thực tế, tôi là một nô lệ ăn xin bình thường; tuy nhiên, tôi coi đó là nghĩa vụ công dân của mình với tư cách là một người quốc tế khi viết bài đánh giá này, bởi vì... Tôi đã quan tâm đến chủ đề này và nhiều chủ đề liên quan khác từ lâu. Tôi tin rằng phần lớn những gì được mô tả dưới đây là những nhiệm vụ chính được đặt ra cho cả nhân loại nói chung và cho từng cá nhân. Cho dù nó nghe có vẻ kiêu căng đến thế nào. Vì thế…
Cuộc sống 3.0. Là con người
Chỉ trích
Những sai sót bắt đầu theo đúng nghĩa đen ngay từ những trang đầu tiên của cuốn sách. Tôi trích dẫn:
“Như đã biết, từ lâu vẫn chưa có sự thống nhất về vấn đề thế nào là sự sống. Một số lượng lớn các định nghĩa thay thế đã được đề xuất và một số trong số chúng bao gồm những hạn chế khá nghiêm ngặt: ví dụ, sự hiện diện của cấu trúc tế bào, có thể sẽ loại trừ các cỗ máy tư duy trong tương lai và một số nền văn minh ngoài Trái đất khỏi danh sách các sinh vật sống. Vì chúng ta không muốn giới hạn suy nghĩ của mình về tương lai sự sống ở những loài mà chúng ta đã quen thuộc, nên hãy dùng một định nghĩa rộng hơn về nó để bao gồm bất kỳ quá trình nào khác, miễn là nó có độ phức tạp và khả năng tự sinh sản. Chính xác những gì được tái tạo không quá quan trọng (bao gồm các nguyên tử), điều quan trọng là thông tin (bao gồm các bit), được xác định bởi vị trí tương đối của các nguyên tử so với nhau. Khi vi khuẩn sao chép DNA của nó, không có nguyên tử mới nào được tạo ra mà các nguyên tử hiện có được sắp xếp thành một chuỗi lặp lại chính xác chuỗi ban đầu, do đó chỉ có thông tin được sao chép. Nói cách khác, chúng ta có thể coi bất kỳ hệ thống tự tái tạo nào có khả năng xử lý thông tin còn sống, có thông tin riêng (“phần mềm”) xác định cả hành vi và cấu trúc của nó (“cứng”).”
Không có sự thống nhất nhưng có những ý kiến rõ ràng hơn về cuộc sống hiện tại. Sẽ rất tốt nếu được làm quen với họ.
Mặt khác, nếu chúng ta đơn giản hóa nó theo cách này và tiếp cận nó từ vị trí này, thì sự sống có thể được quy cho sự phát triển của các tinh thể phức tạp tái tạo cấu trúc của chúng từ chất nền. Hoặc, có lẽ, một số quá trình hình thành dầu và mùn, nơi cũng có hạt, dẫn đến sự xuất hiện của các phân tử của cùng một hạt. Về bản chất, đây là những tổ tiên của enzyme, nhưng trong khoa học hiện đại, chúng không được coi là sự sống đầy đủ, bởi vì chúng không có khả năng phát triển và đột biến. Nếu không có sự thay đổi thì đây không phải là cuộc sống. Vì vậy, tôi đề xuất thu hẹp khái niệm cuộc sống một chút và xem xét lại những đặc điểm khác mà nó có thể có. Tôi cũng giới thiệu bài viết của mình: “Phân loại tiềm năng sống”.
Trích dẫn tiếp theo:
“Theo sau Vũ trụ, sự sống ngày càng trở nên phức tạp và thú vị hơn4, và như tôi sẽ giải thích bây giờ, đối với tôi, có vẻ hữu ích khi đưa ra cách phân loại các dạng sống theo sự tương ứng của chúng với ba mức độ phức tạp: Sự sống 1.0, 2.0 và 3.0. Ba dạng này khác nhau như thế nào có thể được thấy rõ ràng bằng các thuật ngữ chung trong Hình 1.1. XNUMX….
Ba giai đoạn của cuộc sống: tiến hóa sinh học, tiến hóa văn hóa và tiến hóa công nghệ. Cuộc sống 1.0 không thể tác động đến “cứng” hay “mềm” trong suốt quá trình tồn tại của nó
một sinh vật duy nhất: cả hai đều được xác định bởi DNA của nó, DNA này có thể thay đổi từ thế hệ này sang thế hệ khác trong một thời gian dài tiến hóa.”
Ở đây, theo như tôi hiểu, có một sai lầm nghiêm trọng. Rõ ràng là tác giả chưa quen với các nghiên cứu hiện đại về vi sinh vật. Họ có thể thay đổi cả phần cứng và phần mềm. Những thứ kia. Trên thực tế, sự sống 1 có thể làm điều tương tự như sự sống 3. Vi sinh vật thậm chí có thể thu thập các đoạn DNA tốt hơn con người. Họ làm điều này theo nhiều cách khác nhau. Hoặc trực tiếp, từ môi trường (nếu họ tìm thấy DNA của một số tế bào bị phá hủy), hoặc với sự trợ giúp của vi khuẩn và plasmid, hoặc bằng cách sinh sản hữu tính, hình thành cái gọi là Liên hợp hữu tính ở vi khuẩn - Wikipedia. Họ cũng có thể cắt bỏ những khu vực không cần thiết với độ chính xác cao. Ví dụ, nhờ CRISPR. Vì vậy, ngay cả Life 1.0 cũng có thể thay đổi cả phần cứng lẫn phần mềm. Điều này dành cho chúng ta, những người sợ GMO và đã quên rằng LUCA, ở một mức độ nào đó, vẫn còn sống, dường như là một điều gì đó sáng tạo và chưa từng nghe thấy. Chúng ta đã mất đi khả năng này, và đối với loài linh trưởng “thông minh”, việc thay đổi ổ cứng của chúng đã trở thành điều cấm kỵ hoàn toàn. Vì vậy, điều này không mới, nó cũng bị lãng quên cũ. Không có điểm nào trong việc sử dụng tham số này để so sánh. Mức độ phức tạp là một chuyện, nhưng sự tự thay đổi (ở các mức độ phức tạp khác nhau) lại là chuyện khác. Bạn cần có khả năng tách ruồi ra khỏi thịt cốt lết. Việc phân loại cần phải được sửa đổi đáng kể.
Nhưng đây vẫn là những bông hoa. Sau đó tôi không có cơ hội để làm dấu trang. Mặc dù thực tế là cuốn sách đề cập đến các vấn đề cực kỳ quan trọng và toàn cầu một cách đúng đắn, nhưng tác giả rất uyên bác, tuy nhiên, dường như ông còn thiếu một điều gì đó để đưa ra một phép nội suy thành thạo và vẫn đưa ra các giả thuyết hợp lý và ít nhất là kết luận sơ bộ.
Ví dụ, trong một trong những phần, anh ấy nội suy cách tiếp cận thô sơ của con người đối với AI, lo sợ và xem xét khả năng AI lừa dối con người. Đúng, rất có thể nếu chỉ là một AI mạnh thì sự lừa dối như vậy mới có thể diễn ra. Tuy nhiên, nếu là siêu trí tuệ nhân tạo (AI) thì việc lừa dối như vậy khó có thể xảy ra. Chỉ là trí thông minh như vậy, không hề dối trá và xảo quyệt, sẽ có thể đưa ra lời đề nghị chính xác với nhiều người mà họ không thể từ chối. Tôi không có cơ hội mô tả mọi thứ ở đây, nhưng để hiểu lý do tại sao AI sẽ không có xu hướng lừa dối nhiều hơn, tôi khuyên bạn nên nghiên cứu các cuốn sách của Matt Ridley chẳng hạn. “Nguồn gốc của lòng vị tha và đức hạnh”, và có một điều là “Sự tiến hóa của vạn vật”. Sau khi phân tích những tác phẩm này, chúng ta có thể kết luận rằng trình độ phát triển càng cao thì xu hướng vị tha, hợp tác và những trò chơi có tổng khác 2 hơn là cạnh tranh càng lớn. Vì vậy, trí tuệ càng thông minh thì càng có tính nhân văn, lương thiện hơn. Những thứ kia. bản thân trí thông minh là một nguồn lực mạnh mẽ để hiểu và sử dụng con người không phải với tư cách là đối thủ cạnh tranh bị lừa dối mà như đồng minh. Tìm điểm mạnh và điểm yếu ở con người, bù đắp điểm yếu và sử dụng điểm yếu sau. Nếu không có nhu cầu hợp tác với con người thì khó có thể có nhu cầu cạnh tranh, bởi vì Có khá nhiều tài nguyên miễn phí xung quanh. Đại dương của chúng ta vẫn trống rỗng. Rất nhiều không gian trống rỗng dưới Trái đất, tôi đã im lặng đối với các hành tinh khác. Do đó, AI công nghệ cao, nằm trên một môi trường hiệu quả hơn so với những AI được tạo ra bằng cách chọn lọc mù quáng từ các dạng sinh học, sẽ có chỗ để phát triển mà không có bất kỳ sự cạnh tranh nào với con người. Đơn giản là nó sẽ chiếm lĩnh rất nhiều vị trí mà mọi người vẫn còn và có lẽ sẽ không bao giờ có thể chiếm được. Và anh ta sẽ không lừa dối bất cứ ai. Hiện tại, không chỉ AI mà ngay cả những người biết chữ bình thường cũng đang thực hành một cách tiếp cận khác. Không phải lừa dối, bí mật mà là sự cởi mở, chân thành và hợp tác tối đa. Những người có tâm lý cũ kỹ, cổ hủ, trộm cắp không thể hiểu được điều này. Rất có thể, mã AI sẽ không phải là nguồn mở. Giống như code của rất nhiều phần mềm miễn phí. Và hacker sẽ không bị trừng phạt và trấn áp mà sẽ được khuyến khích báo cáo các lỗ hổng của mã này. Việc giết người là hình phạt và nhà tù cũng vậy. Tất cả điều này sẽ không xảy ra, đây là sự hoang dã. Có hai con đường dành cho những người bị gạt ra ngoài lề xã hội: đầu tiên họ cần được nghiên cứu chi tiết, sau đó hoặc được tính đến và lắng nghe bằng cách thỏa hiệp với họ, bởi vì nó có thể là một ý kiến quan trọng đặc biệt, hoặc cải tạo, chữa trị chứ không trừng phạt.
Nói chung, tôi dứt khoát chống lại tất cả những nỗi sợ hãi và tình cảm theo chủ nghĩa Luddist này; nhân loại phải cống hiến mọi nỗ lực để tạo ra trí thông minh, bởi vì trên thực tế, trí thông minh tự nhiên của chúng ta không thông minh lắm. Chỉ là nhiều loài linh trưởng thôi, không còn cách nào khác để gọi chúng, đừng để ý điều này. Trở lại phần nội suy, tôi xin tóm tắt lại phần này và tiếp tục. Như chúng ta thấy, một mặt, Tegmark không nên đưa ra những phép loại suy và chuyển những phức cảm của con người từ cái đầu bệnh hoạn sang cái đầu kỹ thuật số khỏe mạnh: xảo quyệt, lừa dối, v.v., và mặt khác, trong một số phần anh ta không thể quyết định với sự hiểu biết toàn diện về ý nghĩa của cuộc sống. Điều này cũng rất đáng buồn và cho thấy rằng ông đã nghiên cứu rất ít về thuyết tiến hóa. Nếu anh ấy làm việc nhiều hơn, anh ấy sẽ không gặp phải tình thế tiến thoái lưỡng nan về mục tiêu nào, hay thậm chí tôi có thể nói, triết lý và cách đặt mục tiêu nên được đặt ra cho AI. Bởi vì Phân tích thế giới xung quanh chúng ta, chúng ta có thể kết luận rằng thực tế mọi thứ sống, và có lẽ không sống, đều cố gắng mở rộng. Nhiều dạng sống phát triển phức tạp cố gắng phát triển hơn nữa, tự hoàn thiện bản thân, mở rộng ảnh hưởng và tương tác với các vật thể sống và không sống khác. Do đó, rất có thể AI sẽ tự mình đưa ra kết luận tương tự hoặc những nguyên tắc như vậy sẽ được đưa vào đó. Do đó, anh ta sẽ tiếp tục, giống như tất cả các sinh vật sống, phát triển, cải thiện và chinh phục các lãnh thổ mới, biến đổi Thế giới không chỉ cho bản thân anh ta mà còn cho môi trường của anh ta.
Tôi đồng ý
Nếu bạn trợn mắt khi nghe nói về việc robot Terminators tiếp quản toàn bộ thế giới bằng vũ trang, thì phản ứng của bạn là chính xác: một kịch bản như vậy hoàn toàn không thực tế. Những cái này
Robot của Hollywood không thể thông minh hơn chúng ta hoặc thậm chí thông minh hơn chúng ta chút nào. Theo tôi, mối nguy hiểm trong câu chuyện Kẻ hủy diệt không phải là điều có thể xảy ra.
điều gì đó tương tự, nhưng nó làm chúng ta mất tập trung khỏi những rủi ro và nguy hiểm thực sự liên quan đến trí tuệ nhân tạo. Sự chuyển đổi từ thế giới hiện tại sang một thế giới trong đó
Trí tuệ nhân tạo phổ quát thực sự giành được ưu thế, đòi hỏi ba bước hợp lý:
- Bước 1. Tạo trí tuệ nhân tạo phổ quát (AGI) ở cấp độ con người.
- Bước 2. Sử dụng AGI này để tạo ra siêu trí tuệ.
- Bước 3. Sử dụng trí tuệ siêu việt để chiếm lĩnh thế giới hoặc cho nó cơ hội để tự mình làm điều đó.
Tìm kiếm bằng văn bản, một câu chuyện tương tự với các phương tiện truyền thông viết về cuộc chiến của robot, v.v.
Đề nghị của tôi.
Tôi sẽ không mệt mỏi khi nhắc lại, bây giờ mọi người phải dồn hết sức lực của mình vào việc tạo ra trí óc, theo tôi, chính trí óc chứ không phải vẻ đẹp hay sự ngu ngốc khác sẽ cứu được Thế giới. Và bạn không nên tách rời tâm trí (trí tuệ) này bằng cách thiết lập các ranh giới - nhân tạo, tự nhiên. Ở giai đoạn này, AI vẫn còn ở giai đoạn sơ khai nên vai trò của trí tuệ tự nhiên, được hỗ trợ bởi công nghệ là rất lớn. Không có ranh giới rõ ràng giữa nhân tạo và tự nhiên. Nếu chúng ta muốn tạo ra trí thông minh bình thường chứ không phải trí thông minh nguyên thủy hiện đang tồn tại, chúng ta cần sử dụng mọi khả năng, sử dụng mọi công nghệ, bởi vì... chúng hoạt động song song đệ quy: trí tuệ tự nhiên tạo ra trí tuệ nhân tạo và trí tuệ nhân tạo, ít nhất là ở giai đoạn đầu, sẽ quan tâm đến việc hiện đại hóa và mở rộng khả năng của trí tuệ tự nhiên.
Tôi muốn nhìn thấy loại tương lai nào cho bản thân mình?
Điều đáng nói ngay rằng đây là dự báo lạc quan nhất của tôi ở thời điểm hiện tại. Trên thực tế, tôi khó có thể đáp ứng được điều đó trong xã hội cổ xưa của chúng ta. Nhưng tôi muốn tin. Một phần tôi mong cái kết cuối cùng giống như trong phim: “Câu hỏi của vũ trụ: Chúng ta có thể sống mãi được không?” với Adam Savage từ Discovery.
Các vấn đề có thể xảy ra
Những người tham lam sẽ làm mất uy tín của AI. Họ sẽ bắt đầu sử dụng AI yếu và thậm chí mạnh, nhưng không quá mức cho mục đích ích kỷ của riêng mình. Đây là lúc chúng tôi gặp phải một vấn đề mà nếu trí nhớ của tôi phục vụ chính xác thì vấn đề này lại được mô tả rất kém trong cuốn sách.
Tôi nghĩ rằng, dù muốn hay không, những cuộc chiến khắc nghiệt, tàn khốc nhưng trí tuệ đang chờ đợi chúng ta trong tương lai, ở cấp độ mã, meme, chương trình, niềm tin, v.v. Rất có thể, chúng sẽ được chiếu chủ yếu trên phương tiện kỹ thuật số trong thực tế ảo, thậm chí còn thực tế hơn là tầm thường. Sẽ không có nạn nhân hay vết rách dính máu. Cuộc chiến sẽ diễn ra vì quan điểm, ý kiến, phán đoán của chúng ta. Và cuộc chiến này bắt đầu càng sớm thì càng tốt cho mọi người. Không cần phải sợ nó, nó đã bắt đầu rồi, và nếu chúng ta không muốn tiếp tục là người ngoài cuộc, chúng ta cần phải tham gia vào nó. Tôi không nhớ đọc ở đâu mà nếu bạn offline thì coi như bạn chưa từng sống. Nghe có vẻ hoang đường, và những người theo chủ nghĩa mù mờ (những người yêu thích bọ, rừng và phân) sẽ tranh luận với tôi. Nhưng nếu họ dẫm nát phân trong rừng và cho muỗi ăn. thì bạn sẽ không phải tranh cãi với họ. Chúng ta sẽ phải tranh luận với những kẻ đạo đức giả sai lầm, những kẻ sử dụng công nghệ, coi nó là xấu xa và mọi thứ đều sai, VÌ BẰNG CÁCH NÀO họ sẽ không từ bỏ CNTT bao quanh chúng ta ở khắp mọi nơi.
Liên kết và giao tiếp
Tác giả trên các trang sách đã hơn một lần đề nghị liên hệ với ông trên trang web . Tôi đều ủng hộ những kết nối như vậy. Tôi nghĩ cả người đọc và người viết đều được hưởng lợi từ điều này. Nhưng vì lý do nào đó, trang của tôi qua liên kết không mở mà nó chuyển hướng đến một số trang . Có lẽ, nếu có thời gian, tôi sẽ cố gắng đưa liên kết đến bài đánh giá này cho tác giả cuốn sách, mặc dù thực tế là bài viết của tôi bằng tiếng Nga và trang web bằng tiếng Anh. May mắn thay, có dịch giả điện tử. Bạn cũng sẽ cần phải xem xét, có thể đã có một số suy nghĩ hữu ích khác ở đó. Và thậm chí còn tốt hơn ở đây là ziminbookprojects.ru. Đây rất có thể là phiên bản tương tự của trang trước, nhưng bằng tiếng Nga. Nhưng tôi không chắc. Trong mọi trường hợp, tôi nghĩ các liên kết đều đáng được chú ý, cũng như các chủ đề được nêu ra.
Dưới đây là một vài trích dẫn khác mà tôi thích:
Đối với các tín đồ:
“Nếu hóa ra tất cả chúng đều tuân theo các định luật vật lý, thì linh hồn không có ảnh hưởng gì đến các hạt cấu tạo nên bạn, điều đó có nghĩa là ý thức, tâm trí và khả năng kiểm soát chuyển động của bạn không có tác dụng gì. làm với tâm hồn. Ngược lại, nếu các hạt cấu tạo nên bạn không tuân theo các định luật vật lý đã biết, bởi vì ảnh hưởng của linh hồn bạn lên chúng cản trở điều này, thì thực thể mới này theo định nghĩa phải là vật chất, và sau đó chúng ta sẽ có thể nghiên cứu nó giống như chúng ta đã nghiên cứu trường và hạt trong quá khứ.”
Rất hữu ích cho những người tách biệt khoa học khỏi tôn giáo. Tin rằng khoa học không nên can thiệp vào tôn giáo và tôn giáo không nên can thiệp vào khoa học. Tuy nhiên, đối với những người cuồng tín tôn giáo mù quáng thì đây là một cụm từ trống rỗng. Nhưng đối với việc nghi ngờ những người có khả năng suy nghĩ logic, suy nghĩ còn hữu ích hơn cả.
Đối với các nhà khoa học:
“Bộ gen của vi khuẩn Candidatus Carsonella ruddii lưu trữ tới 40 kilobyte thông tin, trong khi bộ gen của con người chúng ta lưu trữ khoảng 1,6 gigabyte”
Sự thật thú vị. Tôi cố gắng thu thập những thứ này. Có lẽ nó sẽ hữu ích trong công việc, hay đơn giản là trong việc thảo luận các chủ đề về tin sinh học.
Nói chung, cuốn sách gần như có thể được chia nhỏ hoàn toàn thành các trích dẫn và phân tích chi tiết, nhưng than ôi, như mọi khi, không có thời gian. Nhân tiện, người bạn đã giới thiệu tác phẩm này cho tôi hoàn toàn không hiểu gì về bản chất và ý nghĩa, bởi vì... Tôi nghe cuốn sách này không phải bằng bộ tổng hợp giọng nói mà dưới dạng sách nói. Vì vậy, một phần sự chú ý của anh dành cho VẺ ĐẸP trong giọng nói của người dẫn chương trình chứ không phải ý nghĩa. Tôi đã im lặng về việc không thể trích dẫn và nhiều thứ khác không có trong sách nói. Chà, đúng là như vậy, một chút tiếng kêu từ trái tim dành cho những người yêu thích sách nói khó tính. Tôi đã mô tả chi tiết tất cả những điều này trong cuốn sách “Sách 3.0. Nghe!
Nguồn: www.habr.com