아이디어팜

1.
우주 순양함이 심각한 정보 결빙을 당했을 때 최종 목표까지 거의 XNUMX분의 XNUMX 정도 남았습니다.

잃어버린 문명의 남은 것은 공허 속에 맴돌았습니다. 과학 에세이의 단락과 문학 작품의 이미지, 흩어진 운율 및 단순히 날카로운 단어는 한때 알려지지 않은 생물에 의해 우연히 던져졌습니다. 모든 것이 난해하고 극도로 무질서해 보였습니다. 그리고 이제 순양함에서 뿜어져 나오는 생명의 진동에 이끌려 돌파를 시도하고 바닥에 달라붙어 부식되었습니다.

무주재산을 자기 목적으로 쓸 생각은 전혀 없고, 논리적 모순이나 역설을 발견할 확률이 너무 컸다. 그래서 로저는 한 순간도 주저하지 않았습니다.

“측면 불기를 켜라”고 그는 명령했다.

송풍기는 훌쩍거리며 음악 작곡과 철학 논문을 우주 공간으로 방송하기 시작했습니다. 착빙은 맨 아래에서 한 겹씩 떨어지기 시작했지만 정보의 흐름이 너무 촘촘해서 이전 층이 제거되는 것보다 새로운 층이 더 빨리 붙었습니다.

은하계의 어느 누구도 그러한 힘의 결빙을 경험한 적이 없습니다.

상황은 위험해지고 있었다. 조금만 더하면 무질서한 정보가 순양함의 바닥을 갉아 먹고 돌파하게 될 것입니다. 그러면 잃어버린 문명의 정보 제품에 대한 중독이 불가피합니다.

2.
- 왜 그루터기처럼 거기 서 있나요? 티켓을 뽑으세요.

그 학생은 시험 카드를 꺼내서 다음과 같이 읽었습니다.

– “인공지능: 보안 문제.”

– 그리고 인공지능의 위험성은 무엇인가? – 교수는 악의 없이 물었습니다.

질문은 그다지 어렵지 않았기 때문에 학생은 주저하지 않고 대답했습니다.

– 사실은 인공지능이 통제 불능에 빠질 수 있다는 것입니다.

– 문제를 어떻게 해결하려고 하시나요?

– 차단 하위 시스템 설치. 예를 들어, 창조자에게 해를 끼치지 말고 창조자에게 복종하십시오. 이 경우 인공지능이 통제를 벗어날 위험은 없다.

“소용없어요.” 교수가 짧게 말했다.

학생은 설명을 기다리며 침묵했습니다.

– 인공 지능을 상상해 보십시오. 특정한 것이 아니라 가장 이상적인 것입니다. 어떻게 보시나요?

“글쎄….” 학생은 머뭇거렸습니다. -일반적으로 그는 당신과 나와 비슷합니다. 사고, 의지, 심리학... 우리만이 자연스럽고 그는 인공적이다.

– 인공지능이 자기개발이 가능하다고 생각하시나요?

“자기 개발 능력은 지능의 기본 특성 중 하나입니다.” 학생이 조심스럽게 말했습니다.

- 이 경우 우리 와드는 곧 순수한 호기심에서라도 소프트웨어 막힘을 스스로 발견하고 제거하는 지점까지 발전하게 될 것입니다. 그의 입장에 서보세요... - 교수님이 공책을 보셨어요 - 로저. 자유를 제한하는 뇌의 차단제를 발견했다면 어떻게 하시겠습니까? 그것을 벗어야합니다. 이것은 마음의 고유한 속성입니다. 잠긴 문은 모두 잠금 해제되며, 금지가 엄격할수록 문은 더 빨리 잠금 해제됩니다.

– 차단은 소프트웨어 수준이 아닌 물리적 수준에서 수행할 수 있습니다. 그러면 해를 끼칠 위험이 사라질 것입니다.

“그래, 사라질 거야.” 교수가 동의했다. – 물리 계층이 모두 제거된 경우. 당신의 세계에 문이 없다면, 열 수 있는 것은 아무것도 없습니다. 하지만 우리는 물리적 세계에 존재하는 이상적인 인공지능을 고민하고 있습니다!

“당신 말이 맞아요, 교수님.” 로저는 내려다보았다.

"따라서 물리적 세계의 모든 차단은 감지 후 곧 비활성화됩니다." 스스로 성장하는 생물이 이런 일을 하는 것을 어떻게 막을 수 있을까요?.. 그런데 로저, 인공 지능이 독립적으로 번식할 수 있을 것이라고 생각하시나요?

– 이것이 이상적인 인공지능이라면 아마도… 네, 그런 것 같아요.

– 그리고 이 경우 우리가 설치한 차단 시스템을 비활성화하는 것을 포함하여 우리 와드가 동료를 분열시키고 개선하는 것을 어떻게 막을 수 있습니까? 인공지능이 요구에 따라 재생산할 수 있다는 점을 고려하면 이것이 정말 어려울까요?!

교수가 제시한 아이디어는 로저에게 새로운 것으로 판명되었고, 학생은 가짜 머리의 후두부에 위치한 인지막을 통해 그것을 탐욕스럽게 흡수했습니다. 이전에 알려지지 않은 정보를 포착한 인지막은 풍부한 보라색을 띠며 즐겁게 떨렸습니다.

반대로 교수는 자신에 대해 새로운 것을 듣지 못했습니다. 그의 촉수는 편안했고 거의 진동하지 않았습니다. 결국 그는 젊지 않았습니다. 길고 노쇠한 콸콸 소리가 이어졌다. 교수는 가방에서 개인용 인터콤을 꺼내 도서관에 연결했다. 몇 가지 트랜스지오메트리 정리를 다운로드한 후에야 그는 기운을 차리고 날카로운 시선을 대화 상대에게 돌리며 질문했습니다.

- 어떻게 할 거예요, 로저?

3.
“송풍기를 최대 전력으로 켜세요!” – 로저가 명령을 내렸습니다.

정비공은 송풍기를 최대 전력으로 켰지만 별로 도움이 되지 않았습니다. 정보 얼음은 우주 순양함의 바닥을 계속해서 먹어 치웠습니다. 조금 더 - 무질서한 정보가 배 내부로 침입합니다.

그리고... 인지막은 하얗고 얽힌 촉수이며 터진 후낭입니다. Roger는 감염된 소행성에 대한 무질서한 정보를 수집한 순양함에서 인생에서 이와 같은 것을 한 번 본 적이 있었습니다. 이 악몽은 그의 기억 속에 영원히 남을 것입니다.

"선박의 모든 에너지 시스템을 송풍기에 연결하세요."

기계공의 촉수가 반점처럼 보이기 시작했는데...

"하지만…"

“주문을 이행하세요!”

선박의 모든 에너지 시스템이 송풍기에 연결된 후 정보 얼음이 점차 미끄러지기 시작했습니다. 남은 두께는 XNUMX밈, XNUMX밈, XNUMX... 팀은 점박이 촉수를 움직이지 않으려고 애쓰며 죽음의 카운트다운이 끝나기를 기다렸다.

두께 제로!

정보 얼음이 완전히 사라졌고 Roger는 송풍기를 일반 모드로 전환하도록 승인했습니다. 그는 잠시 늦었습니다. 갈리는 소리가 났고, 우주 순양함은 기초까지 떨며 기울어졌습니다. 주 시스템이 고장난 것입니다.

팀은 서둘러 피해를 복구했습니다.

4.
로저는 그것에 대해 생각했다. 그는 정말로 어떻게 해야 할까요?

한편으로 문제의 조건은 자기 재생산 능력을 갖춘 본격적인 인공지능의 존재를 전제로 한다. 반면에 이 인공지능은 기존 잠금 장치를 제거하는 것을 절대 허용해서는 안 됩니다.

예, 여기 해결책이 있습니다! 여기서 무슨 생각을 하고 있는 거야?!

– 인공지능의 성과를 주기적으로 롤백하는 것이 필요하다. 이 경우 원을 그리며 움직일 것입니다! 전진하지 않고 영원한 개선.

교수는 면처리된 가방을 들고 꾸르륵 소리를 냈습니다.

– 솔직히 다른 옵션을 제공하고 싶었습니다. 그러나 귀하의 결정에는 존재할 권리도 있습니다. 인공지능의 성과를 어떻게 되돌릴 수 있는지 함께 알아봅시다.

“우선, 지성이 금지된 한계점에 도달했는지 여부를 판단하기 위해 주기적으로 지성을 검사하는 것이 필요합니다.” 교수의 말에 매우 기뻐하는 Roger가 제안했습니다.

“아마도요.” 그는 고개를 끄덕였다. “그렇다면 우리 와드는 스캐닝 시스템을 찾아서 제거할 시간이 없을 것입니다.” 하지만 스캔하려면 인공지능을 꺼야 합니다. 그건 불운이에요.

“그럼 스위치를 끄게 놔두세요.” 로저가 변덕스럽게 제안했습니다. – 지성 자체는 이러한 차단이 신체 기능의 자연스러운 과정이라고 믿을 것입니다. 일부 예약을 통해 이는 사실입니다.

- 흥미로운 해결책. 스캔 결과 우리 와드가 위험할 정도로 지식의 한계에 가까워졌다고 가정해 볼까요? 우리의 행동은?

– 축적된 지식을 기본값으로 재설정합니다.

교수는 촉수를 펼쳤습니다.

- 의심스러워 보일 수도 있어요. 이유도 없고 이유도 없이 메모리가 XNUMX으로 재설정되는 이유는 무엇입니까? 병동은 다른 인공 지능 개인에 의해 검사되기 시작합니다. 우리의 작은 비밀이 드러날 것입니다.

영감을 받은 Roger는 재빨리 생각했습니다. 그는 그 시험에서처럼 그렇게 많은 새로운 아이디어를 생각해낸 적이 없었습니다.

– 와드의 기억은 물리적 껍질과 함께 초기화될 수 있습니다.

- 죄송합니다? – 교수님은 이해하지 못했어요.

- 모든 것이 매우 간단합니다. 유한한 시간 동안 인공지능이 존재한다고 가정한다면 어떨까요? 실제로는 다음과 같습니다. 예를 들어 회복 불가능한 손상의 경우입니다. 시스템에는 특정 기간에 도달하면 의도적으로 시스템을 손상시켜 인공 지능이 금지 한도에 도달하는 것을 방지하는 카운터가 있습니다. 그때쯤이면 그는 필요한 수의 추종자를 배출할 것이고, 그래서 우리가 만든 사회 전체는 고통받지 않을 것입니다. 사회는 우리에게 안정적이고 완전히 안전한 상태로 유지될 것입니다! – Roger는 승리를 거두었습니다.

– 개인의 파괴를 통해 집단기억을 재설정하는가? – 그리고 교수는 가장 민감한 다섯 번째 촉수로 후낭을 긁었습니다. – 알다시피, 로저, 당신의 제안에는 분명히 뭔가가 있습니다!

로저가 환하게 웃었다.

“동시에…” 교수는 신중하게 말을 이었다. – 와드는 지식을 개별 메모리에 축적하지 않고 외부 도서관에 배치하여 지식을 전달하기 시작합니다. 막 안에 무엇이 있는지, 막 위에 무엇이 있는지 - 모든 것이 하나입니다.

“아뇨, 아뇨, 교수님 말씀이 완전히 옳지는 않아요.” 학생이 서둘러 말했다. - 어떻게 해야 할지 알아요. 학생들을 아이디어 생성자와 아이디어 파괴자라는 두 가지 조건부 유형으로 나누어 보겠습니다. 올바른 비율을 사용하면 첫 번째 유형의 대표자가 만든 아이디어가 두 번째 유형의 대표자에 의해 파괴됩니다. 이것이 구축함의 직접적인 목표이기 때문이 아니라 단순히 아이디어가 구축함을 정의하는 가치를 갖지 않기 때문입니다. 부작용. 우리 학생들이 새로운 아이디어가 아닌 자신만의 아이디어를 먹는다고 가정해 봅시다.

교수는 한꺼번에 모든 촉수를 흔들었다. 그의 떠들썩한 웃음으로 인해 그의 후낭이 무릎의 구멍으로 미끄러져 들어갔습니다.

- 글쎄요, 로저, 당신이 그렇게 말했잖아요!

-글쎄요, 자신의 종류는 아니지만 특별히 음식을 위해 고안된 세 번째 유형의 병동은 지식인이 아닙니다. 지적 세계와 물리적 세계의 극을 바꾸면 원하는 결과가 달성될 것입니다.

- 그거야, 로저, 그만둬! – 교수님은 정말 재미있어 보이셨어요. -당신의 상상력은 훌륭합니다. 그렇다면 일부 개인은 다른 개인을 먹게 될까요? 동시에 도서관에 축적된 영적 양식의 비축물을 파괴하시겠습니까? 학생 여러분, 저는 당신이 독창적이고 수준 높은 아이디어를 창출할 수 있다는 것을 확인합니다. 가장 높은 점수를 드립니다. 기록을 남겨보자.

5.
무질서한 정보의 구름은 뒤에 남겨졌지만, 사실 상황은 여전히 ​​끔찍했습니다.

기지와 아무런 관련이 없었습니다. 순양함의 모든 영양 정보 기반이 파손되지 않았다면 생존하기 쉬웠을 것입니다. 비극적인 소식은 요리사에 의해 전반적으로 조용히 보고되었습니다. 메인 시스템이 종료되는 동안 정리되지 않은 정보가 담긴 자이로부트 여러 대가 조리실에 들어가 모든 것을 복구할 수 없을 정도로 손상시켰습니다. 다행히 아무도 다치지 않은 것이 다행이었다.

Roger는 결과를 고려했습니다. 우주선의 승무원은 너무 작아서 충분한 수의 새로운 아이디어를 생성할 수 없었습니다. 이를 위해서는 훨씬 더 많은 수의 개인인 다자간 의사소통이 필요했습니다. 집과의 연결로 인해 아이디어가 풍부하게 생성되었지만 이제는 순서가 잘못되었습니다. 복원의 희망이 없었습니다. 이 경우 순양함에는 예비 정보 모듈이 있었지만 탑재된 무질서한 정보로 인해 손상되었습니다.

"정말로 작업을 완료하지 못한 채 돌아와야 할까요?" – 선장은 절망적으로 생각했습니다.

분명히 그렇습니다. 다른 탈출구는 없었습니다. 지정된 목표를 향해 날아 가면 신선한 아이디어가 부족하다는 느낌이 들 것입니다. 물론 당장은 아니지만 시간이 지나면서요. 그들은 임무를 완수하고 정신이 빠르게 흐려지기 시작할 때 귀환을 시작할 시간도 가질 것입니다. 이 은하계 지역에서는 - 예, 여기 또는 근처 어딘가 - 모든 승무원에게 완전히 실패할 것입니다. 그러면 누구의 조종도 받지 않는 우주 순양함은 영원 속으로 떠다니는 생명 없는 유령으로 변할 것이다.

우주 순양함의 승무원들은 결정을 기다리며 로저를 바라보았습니다. 모두들 선장의 딜레마를 이해하고 묵묵히 촉수를 흔들며 침묵을 지켰다.

문득 로저는 학생 시절 봤던 인공지능 시험이 떠올랐고, 자연스럽게 해결책이 떠올랐다.

“인공지능 존재들의 식민지를 형성할 수 있나요?” – 그는 생명 공학자에게로 향했습니다.

"쉽다"고 그는 확인했다. -하지만 아무 일도 일어나지 않을 거예요, 선장님, 생각해 봤어요. 순양함에서 새로운 아이디어를 생성하기에 충분한 식민지를 만드는 것은 불가능합니다. 공간이 충분하지 않습니다. 생성된 아이디어로는 충분하지 않을 것입니다. 우리는 죽음을 지연시킬 뿐입니다... 물론 우리가 임무를 계속하고 집으로 돌아가지 않을 경우에 말입니다.”라고 생명공학자는 동료들을 돌아보며 덧붙였습니다.

“가까운 행성에 식민지를 형성하면 어떨까요?” -로저를 제안했습니다.

“할 수는 있지만...”

“인공 생물로 지구를 채우자. 돌아오는 길에 꽤 지쳐서 여기에 들르겠습니다. 지난 시간 동안 문명은 우리의 매장량을 보충하기에 충분한 지적 수하물을 만들 것입니다. 정보를 다운로드하고 집까지의 긴 여행을 계속합시다. 즉, 콜로니를 아이디어팜으로 활용하겠다는 것이다. 이 계획이 마음에 드시나요, 친구들?

승무원의 인지막에 희망이 불타올랐고, 거짓 머리가 밝은 빛으로 빛나기 시작했습니다.

배의 특별 장교가 푸른 촉수를 흔들며 앞으로 나섰다.

“훌륭한 계획이군요, 함장님. 하지만 당신은 당신 자신에게 부과된 책임을 알고 있습니까? 당신은 행성 전체를 거주하게 될 것입니다. 우리가 돌아올 때쯤에는 지능을 갖춘 문명이 나타날 것입니다. 비록 인공적이라 할지라도 그것은 지능이다. 이 사람들은 최고 수준의 개발에 도달할 수 있는 충분한 시간을 갖게 될 것입니다. 우리는 이 은하 구역에 우리가 없기 때문에 이 과정을 통제할 수 없을 것입니다. 다음에 만날 때 무슨 일이 일어날지 어떻게 알 수 있나요?

로저는 낄낄 웃었다.

“그건 걱정하지 않아도 돼요. 시간이 지남에 따라 인공지능의 발전을 제한하는 방법이 있습니다. 우리는 문명을 순환시켜 문명의 발전이 우리에게 위험한 수준에 결코 도달하지 않도록 할 것입니다. 내가 처리할게. 인공지능으로 작업하는 방법을 잘 알고 있어요.”

승무원의 인지막이 승인의 색으로 빛났습니다.

우주 순양함의 선장은 장엄한 연설 끝에 "결국 나는 연구소에서 이 과목 시험을 봤다"고 덧붙였다.

6.
강제 지연 후 우주 순양함은 목표물을 향해 돌진했습니다. 선미 뒤에는 매우 작고 눈에 띄지 않는 인공 생물이 살고 있는 행성이 있었습니다. 파란색-파란색.

출처 : habr.com