1.
Chỉ còn lại rất ít để đạt được mục tiêu cuối cùng - khoảng một phần ba chặng đường - khi tàu tuần dương không gian gặp phải tình trạng đóng băng thông tin nghiêm trọng.
Những gì còn lại của nền văn minh đã mất lơ lửng trong khoảng không. Các đoạn văn của các bài tiểu luận khoa học và hình ảnh từ các tác phẩm văn học, những vần điệu rải rác và những từ ngữ đơn giản sắc bén, từng bị những sinh vật vô danh ném ra một cách tình cờ - mọi thứ trông thật trừu tượng và cực kỳ lộn xộn. Và bây giờ, bị thu hút bởi những rung động quan trọng phát ra từ tàu tuần dương, nó cố gắng đột phá, mắc kẹt ở đáy và ăn mòn nó.
Chẳng ích gì khi nghĩ đến việc sử dụng tài sản vô chủ cho mục đích riêng của mình; khả năng xảy ra mâu thuẫn hoặc nghịch lý về mặt logic là quá lớn. Vì thế Roger không hề do dự một giây phút nào.
“Bật thổi sang một bên,” anh ra lệnh.
Những chiếc máy thổi bắt đầu sụt sịt, phát những tác phẩm âm nhạc và luận thuyết triết học ra ngoài không gian. Lớp băng bắt đầu rơi ra khỏi lớp dưới cùng, nhưng luồng thông tin dày đặc đến mức các lớp mới bị kẹt nhanh hơn các lớp cũ được loại bỏ.
Không ai trong thiên hà từng gặp phải sự đóng băng với lực như vậy.
Tình thế ngày càng trở nên nguy hiểm. Thêm một chút nữa, thông tin hỗn loạn sẽ ăn xuyên qua đáy tàu tuần dương và đột phá - khi đó việc đầu độc các sản phẩm thông tin của nền văn minh đã mất là điều không thể tránh khỏi.
2.
- Sao cậu đứng đó như gốc cây vậy? Kéo vé.
Người sinh viên rút ra một tờ giấy thi và đọc:
– “Trí tuệ nhân tạo: Các vấn đề an ninh.”
– Và sự nguy hiểm của trí tuệ nhân tạo là gì? – giáo sư hỏi, không khỏi có ác ý.
Câu hỏi không khó nhất nên học sinh trả lời không chút do dự:
– Thực tế là trí tuệ nhân tạo có thể vượt khỏi tầm kiểm soát.
– Bạn dự định giải quyết vấn đề như thế nào?
– Cài đặt hệ thống con chặn. Cần phải đưa ra các hạn chế vào chương trình, chẳng hạn như: không làm hại người tạo ra bạn, hãy tuân theo người tạo ra bạn. Trong trường hợp này, không có nguy cơ trí tuệ nhân tạo vượt khỏi tầm kiểm soát.
“Nó sẽ không có tác dụng,” giáo sư nói ngắn gọn.
Cậu sinh viên im lặng, chờ đợi lời giải thích.
– Hãy tưởng tượng trí tuệ nhân tạo – không chỉ một cái cụ thể nào đó mà còn là cái lý tưởng nhất. Làm thế nào để bạn nhìn thấy nó?
“À…” cậu sinh viên ngập ngừng. - Nói chung thì anh ấy cũng giống bạn và tôi. Suy nghĩ, ý chí, tâm lý... Chỉ có chúng ta là tự nhiên, còn anh là giả tạo.
– Bạn có cho rằng trí tuệ nhân tạo có khả năng tự phát triển?
“Khả năng tự phát triển là một trong những đặc tính cơ bản của trí thông minh,” học sinh cẩn thận nói.
- Trong trường hợp này, phường của chúng ta sẽ sớm phát triển đến mức anh ta phát hiện ra sự tắc nghẽn phần mềm trong chính mình và loại bỏ nó, nếu chỉ vì tò mò. Hãy đặt mình vào vị trí của ông ấy... - giáo sư nhìn vào cuốn sổ của mình, - Roger. Bạn sẽ làm gì nếu phát hiện ra một vật cản trong não đang hạn chế sự tự do của bạn? Bạn nên cởi nó ra. Đây là một đặc tính cố hữu của tâm trí - biết. Bất kỳ cánh cửa nào bị khóa sẽ được mở khóa, và lệnh cấm càng nghiêm ngặt thì cửa sẽ được mở khóa càng nhanh.
– Việc chặn có thể được thực hiện không phải ở cấp độ phần mềm mà ở cấp độ vật lý. Khi đó nguy cơ gây hại sẽ biến mất.
“Ồ vâng, nó sẽ biến mất,” giáo sư đồng ý. – Trường hợp lớp vật lý bị loại bỏ hoàn toàn. Nếu không có cánh cửa nào trong thế giới của bạn thì sẽ không có gì để mở. Nhưng chúng tôi đang xem xét một trí tuệ nhân tạo lý tưởng tồn tại trong thế giới vật chất!
“Thầy nói đúng, thưa giáo sư,” Roger nhìn xuống.
“Do đó, mọi sự tắc nghẽn trong thế giới vật chất sẽ bị vô hiệu hóa ngay sau khi được phát hiện.” Điều gì sẽ ngăn cản một sinh vật tự phát triển làm điều này?.. Nhân tiện, Roger, bạn có cho rằng trí tuệ nhân tạo sẽ có thể sinh sản - ý tôi là, độc lập không?
– Nếu đây là trí tuệ nhân tạo lý tưởng thì có lẽ… Ừ, tôi cho là vậy.
– Và điều gì, trong trường hợp này, sẽ ngăn cản phường của chúng tôi xé nát đồng đội của anh ta và cải thiện anh ta, bao gồm cả việc vô hiệu hóa các hệ thống chặn mà chúng tôi đã cài đặt? Liệu điều này có thực sự trở nên khó khăn khi trí tuệ nhân tạo có khả năng tái tạo theo yêu cầu?!
Ý tưởng do giáo sư trình bày hóa ra lại mới đối với Roger, và cậu sinh viên đã hấp thụ nó một cách tham lam qua màng nhận thức nằm ở phần chẩm của đầu giả. Sau khi nắm bắt được những thông tin chưa biết trước đó, màng nhận thức chuyển sang màu tím đậm và run lên vui sướng.
Ngược lại, giáo sư không nghe thấy điều gì mới mẻ cho chính mình. Các xúc tu của anh ấy rất thoải mái và hầu như không rung động - dù sao thì anh ấy cũng không còn trẻ. Tiếp theo là một tiếng ọc ọc dài của người già. Vị giáo sư rút ra một chiếc máy liên lạc cá nhân từ trong túi xách của mình và kết nối với thư viện. Chỉ sau khi tải xuống một số định lý chuyển đổi hình học, anh ta mới tỉnh dậy và hướng ánh mắt xuyên thấu sang người đối thoại và hỏi:
-Anh sẽ làm gì, Roger?
3.
“Bật máy thổi hết công suất!” – Roger ra lệnh.
Người thợ đã bật quạt hết công suất nhưng cũng không giúp được gì nhiều. Băng thông tin tiếp tục ăn mòn phần đáy của tàu tuần dương vũ trụ. Một chút nữa - và thông tin lộn xộn sẽ lọt vào bên trong con tàu.
Và sau đó... Màng nhận thức trắng bệch, có những xúc tu rối rắm, các túi bên bị vỡ. Roger đã từng chứng kiến điều tương tự một lần trong đời - trên một chiếc tàu tuần dương thu thập thông tin lộn xộn về một tiểu hành tinh bị nhiễm bệnh. Cơn ác mộng này sẽ mãi mãi đọng lại trong ký ức của anh.
“Kết nối tất cả hệ thống năng lượng của tàu với máy thổi.”
Các xúc tu của người thợ máy bắt đầu xuất hiện như những đốm...
"Nhưng…"
“Thực hiện mệnh lệnh!”
Sau khi tất cả hệ thống năng lượng của con tàu được kết nối với máy thổi, băng thông tin bắt đầu trượt dần ra. Độ dày còn lại là tám mimm, bảy mimm, sáu... Cả đội, cố gắng không di chuyển những xúc tu đốm của mình, chờ đợi thời gian đếm ngược tử vong kết thúc.
Độ dày bằng không mimm!
Băng thông tin biến mất hoàn toàn, và Roger ra lệnh chuyển máy thổi sang chế độ bình thường. Anh ấy đã đến muộn một lát. Có một âm thanh ken két vang lên, chiếc tàu tuần dương không gian rung chuyển và nghiêng nghiêng - hệ thống chính đã hỏng.
Toàn đội vội vã khắc phục thiệt hại.
4.
Roger đã nghĩ về điều đó. Anh ấy thực sự nên làm gì?
Một mặt, điều kiện của vấn đề giả định trước sự tồn tại của trí tuệ nhân tạo chính thức với khả năng tự tái tạo. Mặt khác, trí tuệ nhân tạo này không bao giờ được phép loại bỏ các ổ khóa hiện có.
Vâng, đây rồi, giải pháp! Bạn đang nghĩ gì ở đây?!
– Cần định kỳ lật lại những thành tựu của trí tuệ nhân tạo. Trong trường hợp này, nó sẽ di chuyển theo vòng tròn! Cải thiện vĩnh viễn mà không cần tiến về phía trước.
Giáo sư ríu rít với một chiếc túi có nhiều cạnh.
– Thành thật mà nói, tôi muốn đưa ra một lựa chọn khác. Tuy nhiên, quyết định của bạn cũng có quyền tồn tại. Chúng ta hãy cùng nhau tìm hiểu làm thế nào có thể lấy lại những thành tựu của trí tuệ nhân tạo.
“Trước hết, cần định kỳ quét trí tuệ để xác định xem nó đã chạm đến ngưỡng cấm hay chưa,” Roger đề nghị, vô cùng hài lòng với lời nói của giáo sư.
“Có lẽ,” anh gật đầu. “Khi đó phường của chúng tôi sẽ không có thời gian để tìm và loại bỏ hệ thống quét.” Tuy nhiên, trí tuệ nhân tạo sẽ phải tắt để quét. Đó là điều xui xẻo.
“Được rồi, hãy để anh ấy tắt đi,” Roger bất chợt gợi ý. – Bản thân trí tuệ sẽ tin rằng việc tắt máy này là một quá trình hoạt động tự nhiên của cơ thể nó. Với một số đặt phòng, điều này là đúng.
- Giải pháp thú vị. Giả sử kết quả quét cho thấy phường của chúng ta đang tiến gần đến giới hạn kiến thức một cách nguy hiểm? Hành động của chúng tôi?
– Đặt lại kiến thức tích lũy về giá trị mặc định.
Giáo sư xòe các xúc tu của mình:
- Điều này có vẻ đáng nghi ngờ. Tại sao - không có lý do, không có lý do - bộ nhớ lại bị đặt lại về XNUMX? Ý tôi là, phường sẽ bắt đầu được kiểm tra bởi những cá nhân trí tuệ nhân tạo khác. Bí mật nhỏ của chúng tôi sẽ được tiết lộ.
Cảm thấy được truyền cảm hứng, Roger nghĩ nhanh. Anh ấy chưa bao giờ nghĩ ra nhiều ý tưởng mới như vậy trong kỳ thi đó.
– Ký ức của phường có thể được thiết lập lại cùng với lớp vỏ vật lý của anh ta.
- Lấy làm tiếc? – giáo sư không hiểu.
- Mọi chuyện rất đơn giản. Điều gì sẽ xảy ra nếu chúng ta cho rằng trí tuệ nhân tạo tồn tại trong một khoảng thời gian hữu hạn? Trên thực tế, nó là như thế này: ví dụ như trong trường hợp thiệt hại không thể khắc phục được. Hệ thống có bộ đếm, khi đạt đến một thời hạn nhất định sẽ cố tình làm hỏng hệ thống, ngăn cản trí tuệ nhân tạo đạt đến giới hạn bị cấm. Đến lúc đó, anh ta sẽ tạo ra đủ số lượng người theo dõi cần thiết, để toàn bộ xã hội mà chúng ta đã tạo ra sẽ không bị ảnh hưởng. Xã hội sẽ ổn định và hoàn toàn an toàn cho chúng ta! – Roger kết thúc một cách đắc thắng.
– Thiết lập lại ký ức tập thể thông qua sự hủy diệt của các cá nhân? – và giáo sư dùng xúc tu thứ năm, nhạy cảm nhất, gãi vào túi bên. – Bạn biết đấy, Roger, chắc chắn có điều gì đó trong lời đề nghị của bạn!
Roger rạng rỡ.
“Đồng thời…” giáo sư trầm tư tiếp tục. – Các phường sẽ bắt đầu truyền tải kiến thức bằng cách không tích lũy kiến thức trong bộ nhớ cá nhân mà bằng cách đặt nó vào các thư viện bên ngoài. Cái gì trong màng, cái gì trên màng - mọi thứ đều là một.
“Không, không, thưa giáo sư, ông không hoàn toàn đúng,” sinh viên vội vàng nói. - Tôi biết phải làm gì. Hãy chia học sinh của chúng ta thành hai loại có điều kiện: người tạo ra ý tưởng và người phá hủy ý tưởng. Với tỷ lệ đúng, những ý tưởng do đại diện loại thứ nhất tạo ra sẽ bị đại diện loại thứ hai phá hủy. Thậm chí không phải vì đây sẽ là mục tiêu trực tiếp của những kẻ hủy diệt, mà đơn giản là vì những ý tưởng sẽ không có giá trị xác định đối với chúng. Tác dụng phụ. Giả sử rằng học sinh của chúng ta không nuôi dưỡng những ý tưởng mới, mà là... giả sử, theo ý tưởng của chính họ.
Giáo sư lắc tất cả các xúc tu của mình cùng một lúc. Từ tiếng cười huyên náo của anh ta, xương sườn của anh ta trượt xuống hốc đầu gối.
- Ờ, Roger, anh nói thế thì anh nói thế thôi!
- Được rồi, không phải loại của họ, mà là loại thứ ba, dành riêng cho thực phẩm - và không phải là trí thức chút nào. Chúng ta hãy dịch chuyển các cực của thế giới trí tuệ và thể chất – và bạn sẽ đạt được kết quả mong muốn.
- Thế là đủ rồi, Roger, thế là đủ rồi! – giáo sư có vẻ rất thích thú. - Trí tưởng tượng của bạn thật tuyệt vời. Vì vậy, một số cá nhân sẽ ăn những người khác? Đồng thời tiêu hủy kho lương thực tinh thần tích lũy trong thư viện? Tôi xác nhận, sinh viên, rằng bạn có khả năng tạo ra những ý tưởng độc đáo và chất lượng cao. Tôi cho nó điểm cao nhất. Hãy ghi lại.
5.
Đám mây thông tin hỗn loạn đã bị bỏ lại phía sau, nhưng trên thực tế, tình hình vẫn rất nghiêm trọng.
Không có mối liên hệ nào với căn cứ. Điều này sẽ dễ dàng tồn tại nếu tất cả các cơ sở thông tin dinh dưỡng trên tàu tuần dương không rơi vào tình trạng hư hỏng. Tin bi thảm được người đầu bếp báo cáo trong im lặng. Trong quá trình tắt hệ thống chính, một số con quay hồi chuyển chứa thông tin không có tổ chức đã xâm nhập vào phòng bếp và làm hỏng mọi thứ không thể sửa chữa được. Chỉ nhờ may mắn mà không có ai bị thương.
Roger đã cân nhắc hậu quả. Phi hành đoàn của con tàu vũ trụ quá nhỏ để tạo ra đủ số lượng ý tưởng mới: điều này đòi hỏi sự giao tiếp đa phương - một số lượng cá nhân lớn hơn nhiều. Mối liên hệ với ngôi nhà giúp nảy sinh ra vô số ý tưởng, nhưng giờ đây nó đã không còn hoạt động: không còn hy vọng phục hồi. Trong trường hợp này, tàu tuần dương có một mô-đun thông tin dự phòng, nhưng nó đã bị hỏng do thông tin trên tàu bị xáo trộn.
“Chúng ta thực sự sẽ phải quay trở lại khi chưa hoàn thành nhiệm vụ sao?” – thuyền trưởng tuyệt vọng nghĩ.
Rõ ràng là có - không còn lối thoát nào khác. Nếu bạn hướng tới mục tiêu đã định, bạn sẽ cảm thấy thiếu ý tưởng mới. Tất nhiên là không phải ngay lập tức - theo thời gian. Họ thậm chí sẽ có thời gian để hoàn thành sứ mệnh của mình và bắt đầu quay trở lại khi tâm trí của họ bắt đầu mờ nhạt nhanh chóng. Trong khu vực của khu vực thiên hà này - vâng, ở đâu đó ở đây hoặc gần đó - nó sẽ thất bại hoàn toàn, đối với tất cả các thành viên phi hành đoàn. Khi đó, con tàu du hành vũ trụ không được điều khiển bởi ai sẽ biến thành một hồn ma vô hồn trôi vào cõi vĩnh hằng.
Phi hành đoàn của tàu tuần dương không gian nhìn Roger, chờ đợi quyết định. Mọi người đều hiểu được tình thế tiến thoái lưỡng nan của thuyền trưởng và giữ im lặng, kiên quyết rung chuyển các xúc tu của mình.
Đột nhiên, Roger nhớ lại một bài kiểm tra trí tuệ nhân tạo mà anh đã tham gia khi còn là sinh viên và lời giải đã đến một cách tự nhiên.
“Bạn có thể hình thành một thuộc địa của những sinh vật có trí tuệ nhân tạo không?” – anh quay sang nhà công nghệ sinh học.
“Dễ thôi,” anh xác nhận. - Nhưng sẽ không có chuyện gì xảy ra đâu, thuyền trưởng, tôi đã nghĩ đến điều đó. Không thể tạo ra một thuộc địa đủ để tạo ra những ý tưởng mới trên tàu tuần dương - không có đủ không gian. Những ý tưởng được tạo ra sẽ không đủ, chúng tôi sẽ chỉ trì hoãn cái chết của mình… Tất nhiên, trong trường hợp chúng tôi tiếp tục sứ mệnh và không trở về nhà”, nhà công nghệ sinh học nói thêm, nhìn lại các đồng đội của mình.
“Điều gì sẽ xảy ra nếu chúng ta thành lập một thuộc địa trên một hành tinh lân cận nào đó?” - Roger gợi ý.
“Tôi có thể làm được, nhưng…”
“Hãy đưa những sinh vật nhân tạo vào hành tinh này. Trên đường về khá mệt nên chúng ta sẽ ghé qua đây. Trong thời gian qua, nền văn minh sẽ tạo ra hành trang trí tuệ đủ để bổ sung cho nguồn dự trữ của chúng ta. Hãy tải thông tin và tiếp tục cuộc hành trình dài đến nhà. Nói cách khác, tôi sẽ sử dụng thuộc địa này như một trang trại ý tưởng. Bạn thấy kế hoạch này thế nào, các bạn?
Niềm hy vọng bùng lên trên màng nhận thức của phi hành đoàn, và những chiếc đầu giả bắt đầu phát sáng rực rỡ.
Sĩ quan đặc biệt của con tàu bước tới, lắc lắc những xúc tu màu xanh của mình.
“Kế hoạch tuyệt vời, thuyền trưởng. Nhưng bạn có nhận thức được trách nhiệm mà bạn đặt lên chính mình không? Bạn sắp cư trú trên toàn bộ hành tinh. Khi chúng ta quay trở lại, một nền văn minh có trí tuệ sẽ xuất hiện trên đó. Dù là nhân tạo thì đó vẫn là trí tuệ. Những kẻ này sẽ có nhiều thời gian để đạt đến mức độ phát triển cao nhất. Chúng ta sẽ không thể kiểm soát quá trình này do sự vắng mặt của chúng ta trong khu vực thiên hà này. Làm sao bạn biết điều gì sẽ xảy ra vào lần gặp tiếp theo?
Roger cười khúc khích.
“Bạn không cần phải lo lắng về điều đó. Có những phương pháp hạn chế sự phát triển của trí tuệ nhân tạo theo thời gian. Chúng ta sẽ lặp lại nền văn minh, vì vậy sự phát triển của nó sẽ không bao giờ đạt đến mức nguy hiểm cho chúng ta. Tôi sẽ chăm sóc nó. Tôi quen với phương pháp làm việc với trí tuệ nhân tạo.”
Màng nhận thức của phi hành đoàn sáng lên với màu sắc của sự chấp thuận.
“Cuối cùng,” thuyền trưởng tàu tuần dương vũ trụ nói thêm vào cuối bài phát biểu tuyệt vời của mình, “Tôi đã tham gia kỳ thi môn này tại viện.”
6.
Sau một khoảng thời gian tạm dừng bắt buộc, tàu tuần dương không gian lao về phía mục tiêu. Đằng sau đuôi tàu của nó có một hành tinh là nơi sinh sống của các sinh vật nhân tạo - rất nhỏ và kín đáo. Xanh-xanh.
Nguồn: www.habr.com