חוות רעיונות

1.
לא נותר מעט למטרה הסופית - כשליש מהדרך - כאשר סיירת החלל נקלעה לקרחון מידע חמור.

מה שנשאר מהציוויליזציה האבודה ריחף בריק. פסקאות של חיבורים מדעיים ודימויים מיצירות ספרותיות, חרוזים מפוזרים ומילים פשוטות חדות, שפעם נזרקו כלאחר יד על ידי יצורים לא ידועים - הכל נראה מופרך ומבולבל ביותר. ועכשיו, נמשך מהרעידות החיוניות הבוקעות מהסיירת, הוא ניסה לפרוץ, נדבק לתחתית ושכל אותה.

לא היה טעם לחשוב על שימוש ברכוש חסר בעלים למטרותיו האישיות; ההסתברות לקלוט סתירה לוגית או פרדוקס הייתה גדולה מדי. אז רוג'ר לא היסס לרגע.

"הפעל את נשימות הצד," הוא הורה.

המפוחים החלו לרחרח, שידרו לחלל החיצון יצירות מוזיקליות ומסות פילוסופיות. הדובדבן החל לרדת מהתחתית שכבה אחר שכבה, אך זרימת המידע הייתה כה צפופה עד ששכבות חדשות נתקעו מהר יותר מהישנות הוסרו.

איש בגלקסיה לא נתקל מעולם בקרח בכוח כזה.

המצב הפך למסוכן. עוד קצת, והמידע המופרע יאכל דרך תחתית הסיירת ויפרוץ - אז הרעלה בתוצרי המידע של הציוויליזציה האבודה היא בלתי נמנעת.

2.
- למה אתה עומד שם כמו גדם עץ? משוך את הכרטיס.

התלמיד שלף כרטיס בחינה וקרא:

- "בינה מלאכותית: בעיות אבטחה."

– ומהי הסכנה של בינה מלאכותית? – שאל הפרופסור, לא בלי זדון.

השאלה לא הייתה הקשה ביותר, אז התלמיד ענה ללא היסוס:

- העובדה היא שבינה מלאכותית יכולה לצאת משליטה.

- איך אתה מתכוון לפתור את הבעיה?

– התקנת תת-מערכת חוסמת. יש צורך להכניס הגבלות לתוכנית, למשל: אל תפגע ביוצר שלך, ציית ליוצר שלך. במקרה זה, אין סכנה שבינה מלאכותית תצא משליטה.

"זה לא יעבוד," אמר הפרופסור בקצרה.

התלמיד שתק, מחכה לבירור.

- תארו לעצמכם בינה מלאכותית - לא סתם אחת ספציפית, אלא האידיאלית ביותר. איך אתה רואה את זה?

"טוב..." היסס התלמיד. - בכלל, הוא דומה לך ולי. חשיבה, רצון, פסיכולוגיה... רק אנחנו טבעיים, והוא מלאכותי.

– האם אתה מניח שבינה מלאכותית מסוגלת לפתח עצמי?

"היכולת להתפתחות עצמית היא אחד המאפיינים הבסיסיים של האינטליגנציה", אמר התלמיד בזהירות.

- במקרה זה, בקרוב מאוד המחלקה שלנו תתפתח עד כדי כך שהוא מגלה בעצמו חסימת תוכנה ומסיר אותה, ולו מתוך סקרנות טהורה. שים את עצמך במקומו... - הפרופסור הסתכל במחברת שלו, - רוג'ר. מה היית עושה אם היית מגלה חוסם במוח שלך שמגביל את החופש שלך? כדאי להוריד אותו. זהו תכונה אינהרנטית של הנפש - לדעת. כל דלת נעולה תיפתח, וככל שהאיסור יחמיר כך פתיחת הדלת תתבצע מהר יותר.

- חסימה יכולה להיעשות לא ברמת התוכנה, אלא ברמה הפיזית. אז תיעלם סכנת הפגיעה.

"הו כן, זה ייעלם," הסכים הפרופסור. - במקרה שהשכבה הפיזית מוסרת כליל. אם אין דלת בעולמך, אז אין מה לפתוח. אבל אנחנו שוקלים בינה מלאכותית אידיאלית שקיימת בעולם הפיזי!

"אתה צודק, פרופסור," רוג'ר השפיל את מבטו.

"לכן, כל חסימה בעולם הפיזי תושבת זמן קצר לאחר הגילוי." מה ימנע מיצור שמתפתח בעצמו לעשות זאת?.. אגב, רוג'ר, אתה מניח שבינה מלאכותית תצליח להתרבות - זאת אומרת, באופן עצמאי?

– אם זו אינטליגנציה מלאכותית אידיאלית, אז כנראה... כן, אני מניח.

– ומה, במקרה זה, ימנע ממחלקתנו לקרוע את חברו ולשפר אותו, לרבות על ידי השבתת מערכות החסימה שהתקנו? האם זה באמת יתברר כקשה, בהתחשב בכך שבינה מלאכותית מסוגלת להתרבות לפי דרישה?!

הרעיון שהציג הפרופסור התברר כחדש עבור רוג'ר, והתלמיד ספג אותו בתאווה דרך הממברנות הקוגניטיביות הממוקמות בחלק העורפי של הראש הכוזב. לאחר שתפסו מידע לא ידוע קודם לכן, הממברנות הקוגניטיביות קיבלו צבע סגול עשיר ורעדו בשמחה.

הפרופסור, להיפך, לא שמע שום דבר חדש בעצמו. המחושים שלו היו רגועים וכמעט לא רטטו - אחרי הכל, הוא לא היה צעיר. גרגור ארוך וסנילי הגיע בעקבותיו. הפרופסור שלף אינטרקום אישי מתיק הפנים שלו והתחבר לספרייה. רק לאחר שהורד כמה משפטים טרנסגיאומטריים, הוא הזדקף והפנה את מבטו החודר אל בן שיחו, ושאל:

-מה תעשה, רוג'ר?

3.
"הפעל את המפוח במלוא העוצמה!" – רוג'ר נתן את הפקודה.

המכונאי הפעיל את המפוח במלוא העוצמה, אבל זה לא עזר הרבה. קרח המידע המשיך לאכול בתחתית סיירת החלל. עוד קצת - ומידע לא מסודר יפרוץ בתוך הספינה.

ואז... הממברנות הקוגניטיביות הן מחושים לבנים מתים, סבוכים, שקיות פרצוף. רוג'ר ראה משהו כזה פעם אחת בחייו - על סיירת שקלטה מידע מופרע על אסטרואיד נגוע. הסיוט הזה יישאר לנצח בזיכרונו.

"חבר את כל מערכות האנרגיה של הספינה למפוחים."

המחושים של המכונאי החלו להופיע כמו כתמים...

"אבל…"

"למלא הזמנות!"

לאחר שכל מערכות האנרגיה של הספינה חוברו למפוחים, קרח המידע החל להחליק בהדרגה. נותרו שמונה מימים של עובי, שבעה מימים, שש... הצוות, שניסה לא להזיז את המחושים המנומרים שלהם, חיכה לסיום ספירת המוות.

אפס מממ עובי!

קרח המידע נעלם לחלוטין, ורוג'ר נתן את האישור להעביר את המפוחים למצב רגיל. הוא איחר לרגע. נשמע קול שחיקה, סיירת החלל רעדה עד ליסודותיה ונטתה - המערכת הראשית כשלה.

הצוות מיהר לתקן את הנזק.

4.
רוג'ר חשב על זה. מה הוא צריך לעשות באמת?

מצד אחד, מצב הבעיה מניח את קיומה של בינה מלאכותית מלאה עם יכולת רבייה עצמית. מצד שני, לעולם אין לאפשר לבינה מלאכותית זו להסיר מנעולים קיימים.

כן, הנה, הפתרון! מה אתה חושב פה?!

- יש צורך להחזיר מעת לעת את הישגי הבינה המלאכותית. במקרה זה, הוא ינוע במעגל! שיפור נצחי בלי להתקדם.

הפרופסור גרגר בשקית בעלת פנים.

- למען האמת, רציתי להציע אפשרות אחרת. עם זאת, להחלטה שלך יש גם זכות קיום. בואו נבין יחד איך אפשר להחזיר לאחור את הישגי הבינה המלאכותית.

"קודם כל, יש צורך לסרוק מעת לעת את האינטלקט כדי לקבוע אם הוא התקרב לסף האסור או לא", הציע רוג'ר, מרוצה מאוד מדבריו של הפרופסור.

"אולי," הוא הנהן. "אז למחלקה שלנו לא יהיה זמן למצוא ולהסיר את מערכת הסריקה". עם זאת, בינה מלאכותית תצטרך להיות כבויה כדי לסרוק. זה מזל רע.

"טוב, תן לו לכבות," הציע רוג'ר בגחמה. – השכל עצמו יאמין שהכיבוי הזה הוא תהליך טבעי של תפקוד גופו. עם כמה הסתייגויות, זה נכון.

- פתרון מעניין. נניח שהסריקה העלתה שהמחלקה שלנו קרובה בצורה מסוכנת לקצה גבול הידע? המעשים שלנו?

- אפס את הידע המצטבר לערכי ברירת המחדל.

הפרופסור פרש את זרועותיו:

- זה עשוי להיראות חשוד. מדוע - ללא סיבה, ללא סיבה - הזיכרון אופס לאפס? המחלקה תתחיל להיבדק, זאת אומרת, על ידי אנשים אינטליגנטיים מלאכותיים אחרים. הסוד הקטן שלנו יתגלה.

בהרגשה של השראה, חשב רוג'ר במהירות. הוא מעולם לא יצר כל כך הרבה רעיונות חדשים כמו בבחינה ההיא.

– ניתן לאפס את הזיכרון של המחלקה יחד עם המעטפת הפיזית שלו.

- מצטער? – הפרופסור לא הבין.

- הכל מאוד פשוט. מה אם נניח שבינה מלאכותית קיימת לאורך פרק זמן מוגבל? בעצם, ככה זה: במקרה של נזק בלתי הפיך, למשל. למערכת מונה שעם הגעה לתקופה מסוימת פוגע במערכת במכוון, ומונע מהבינה המלאכותית להגיע לגבול האסור. עד אז הוא ייצר את מספר העוקבים הנדרש, כך שהחברה שיצרנו כולה לא תסבול. החברה תישאר יציבה ובטוחה לחלוטין עבורנו! – סיים רוג'ר בניצחון.

- לאפס את הזיכרון הקולקטיבי באמצעות הרס של יחידים? – והפרופסור שרט את שק הפן עם המחשה החמישית, הרגישה ביותר. אתה יודע, רוג'ר, בהחלט יש משהו בהצעה שלך!

רוג'ר קרן.

"במקביל..." המשיך הפרופסור מהורהר. – המחלקות יתחילו להעביר ידע על ידי לא צבירתו בזיכרון הפרט, אלא על ידי הנחתו בספריות חיצוניות. מה יש בקרום, מה יש על הממברנה - הכל אחד.

"לא, לא, פרופסור, אתה לא לגמרי צודק," מיהר הסטודנט. - אני יודע מה לעשות. בואו נחלק את התלמידים שלנו לשני סוגים מותנים: מחוללי רעיונות ומחסלים רעיונות. עם הפרופורציה הנכונה, רעיונות שנוצרו על ידי נציגים מהסוג הראשון יושמדו על ידי נציגי השני. אפילו לא בגלל שזו תהיה המטרה הישירה של ההורסים, אלא פשוט בגלל שלרעיונות לא יהיה ערך מגדיר עבורם. תוצאת לוואי. בואו נניח שהתלמידים שלנו לא ניזונים מרעיונות חדשים, אלא... נניח, מהסוג שלהם.

הפרופסור ניער את כל המחושים שלו בבת אחת. מצחוקו הסוער, שק הפנים שלו החליק אל חלל ברכו.

- ובכן, רוג'ר, אמרת את זה, אז אמרת את זה!

- נו, בסדר, לא מהסוג שלהם, אלא מחלקות מהסוג השלישי, המיועדות במיוחד לאוכל - ולא אינטלקטואלים בכלל. הבה נעביר את הקטבים של העולם האינטלקטואלי והפיזי - והתוצאה הרצויה תושג.

- זהו, רוג'ר, זה מספיק! – נראה היה שהפרופסור משועשע ברצינות. -הדמיון שלך מצוין. אז, אנשים מסוימים יאכלו מאחרים? במקביל, להרוס את מלאי המזון הרוחני שנצבר בספריות? אני מאשר, תלמיד, שאתה מסוגל לייצר רעיונות מקוריים ואיכותיים. אני נותן לזה את הציון הכי גבוה. בואו ניקח שיא.

5.
ענן המידע המופרע נותר מאחור, אך המצב נותר חמור, למעשה.

לא היה קשר לבסיס. זה היה קל לשרוד אם כל בסיסי המידע התזונתי בסיירת לא היו מתקלקלים. את החדשות הטרגיות דיווח הטבח בשקט כללי. במהלך כיבוי המערכת הראשית, כמה מגפי גירוב של מידע לא מאורגן נכנסו למטבח וגרמו נזק בלתי הפיך להכל. רק במזל איש לא נפגע.

רוג'ר שקל את ההשלכות. הצוות של ספינת החלל היה קטן מכדי לייצר מספר מספיק של רעיונות חדשים: זה הצריך תקשורת רב-צדדית - מספר גדול בהרבה של פרטים. החיבור עם הבית איפשר לייצר רעיונות בשפע, אבל עכשיו זה לא היה בסדר: לא הייתה תקווה לשיקום. במקרה זה, לסיירת היה מודול מידע רזרבי, אך הוא התקלקל על ידי מידע לא מסודר שעלה על הסיפון.

"האם באמת נצטרך לחזור מבלי להשלים את המשימה?" – חשב הקפטן בייאוש.

לכאורה, כן - לא הייתה מוצא אחר. אם תטוס קדימה אל היעד הייעודי שלך, היעדר רעיונות טריים ירגיש את עצמו. לא מיד, כמובן - לאורך זמן. אפילו יהיה להם זמן להשלים את משימתם ולהתחיל את חזרתם כשמוחם יתחיל לדעוך במהירות. באזור הגזרה הגלקטית הזו - כן, איפשהו כאן או בקרבת מקום - הוא ייכשל לחלוטין, עבור כל אנשי הצוות. ואז סיירת החלל, שאינה נשלטת על ידי איש, תהפוך לרוח רפאים חסרת חיים המרחפת אל הנצח.

הצוות של סיירת החלל הביט ברוג'ר, מחכה להחלטה. כולם הבינו את הדילמה שעומדת בפני הקפטן ושתקו, רוטטים בצורה סטואית את המחושים.

לפתע, רוג'ר נזכר בבחינת אינטליגנציה מלאכותית שעבר כסטודנט, והפתרון בא באופן טבעי.

"האם אתה יכול ליצור מושבה של יצורים אינטליגנטיים מלאכותיים?" – הוא פנה לביוטכנולוגי.

"קל," הוא אישר. – אבל שום דבר לא יסתדר, קפטן, חשבתי על זה. אי אפשר ליצור מושבה מספיקה כדי לייצר רעיונות טריים בסיירת - אין מספיק מקום. הרעיונות שנוצרו לא יספיקו, רק נדחה את מותנו... במקרה, כמובן, שנמשיך במשימה ולא נחזור הביתה", הוסיף הביוטכנולוג והביט לאחור אל חבריו.

"מה אם ניצור מושבה על איזה כוכב לכת קרוב?" - הציע רוג'ר.

"אני יכול לעשות את זה, אבל..."

"בואו נאכלס את הפלנטה ביצורים מלאכותיים. בדרך חזרה, די מותשים, נעצור כאן. במהלך הזמן האחרון, הציוויליזציה תיצור מטען אינטלקטואלי מספיק כדי לחדש את המאגרים שלנו. בואו להוריד את המידע ולהמשיך את הדרך הארוכה עד הבית. במילים אחרות, אני הולך להשתמש במושבה כחווה לרעיונות. איך אתם אוהבים את התוכנית הזו, חברים?

התקווה התלקחה על הממברנות הקוגניטיביות של הצוות, והראשים הכוזבים החלו להאיר באור בהיר.

הקצין המיוחד של הספינה צעד קדימה, מנער את המחושים הכחולים שלו.

"תוכנית מצוינת, קפטן. אבל האם אתה מודע לאחריות שאתה מטיל על עצמך? אתה עומד לאכלס כוכב לכת שלם. עד שנחזור, תופיע עליה ציוויליזציה עם אינטליגנציה. גם אם זה מלאכותי, זה עדיין אינטליגנציה. לחבר'ה האלה יהיה הרבה זמן להגיע לרמת הפיתוח הגבוהה ביותר. לא נוכל לשלוט בתהליך הזה בגלל היעדרותנו במגזר הגלקטי הזה. איך תדעו מה יקרה בפעם הבאה שתיפגשו?

רוג'ר ציחקק.

"אתה לא צריך לדאוג בקשר לזה. ישנן שיטות המגבילות את התפתחות הבינה המלאכותית לאורך זמן. אנו נעביר את הציוויליזציה בלולאה, כך שהתפתחותה לעולם לא תגיע לרמה מסוכנת עבורנו. אני אדאג לזה. אני מכיר את שיטות העבודה עם בינה מלאכותית".

הממברנות הקוגניטיביות של הצוות זהרו בצבע של אישור.

"בסופו של דבר", הוסיף קפטן סיירת החלל בסיום נאומו המפואר, "ניגשתי לבחינה בנושא הזה במכון".

6.
לאחר עיכוב מאולץ, מיהרה סיירת החלל לעבר המטרה. מאחורי הירכתיים שלו היה כוכב לכת המאוכלס ביצורים מלאכותיים - קטן מאוד ולא בולט. כחול-כחול.

מקור: www.habr.com