Lib.ru/Фантастика:
[Регистрация]
[Найти]
[Рейтинги]
[Обсуждения]
[Новинки]
[Обзоры]
[Помощь]
Урок
- Ну вот, сегодняшний материал мы вроде изучили, и даже вот... (жест в сторону доски) четыре задачи решили. Та-ак... ну, сложные места и ммм... нарушение корректности при упрощении... это я вам поведал. Для решения школьных задач сие не потребуется, но кто знает, что вы будете делать после школы... Что будете строить и конструировать... Вопросы есть?
Пауза. Я вижу, что трое быстро переглянулись. Так, значит, заготовили вопрос и проверяют роли. Как почти всегда - опять эти трое. Распределение ролей в классе - ой, стабильное... нехорошо это, но... одно спасение - многоуровневая система. На разных уроках группа формируется по-разному, я вот два предмета веду, это вижу.
- У нас есть вопрос. Мы вот услышали такое выражение - "война с компьютерами". Но вот кого спрашивали...
- ... не очень-то и отвечают!
- Правда, вопрос не по физике...
- ... но почти по социологии, правда же?
Разыгрывают как по нотам. Готовились или это спонтанно получилось? Похоже, что спонтанно... команда сыгранная. Двое респектабельных и задиристая девица. Игра им нравится, да и классу тоже. Проблема будет - когда ей придет пора выбирать. Но они об этом пока не подозревают. Хорошо бы года через два, не ранее, когда школу кончат и жизнь разбросает.
- У вас сейчас одна пара математики, да? А потом окно. Если хотите, можем это окно и занять. Кто хочет, сюда и приходите, мой кабинет свободен. Печеньки и сок можно с собой.
* * *
Я неторопливо наливаю себе чай. Вкусное дети уже положили мне на стол - на блюдце, когда я - естественно - отвернулся к окну и дождался, пока стихнет шорох. От себя оторвали. От сердца, - сентиментально думаю я, но циничный "внутренний препод" поправляет: от желудка. В этом возрасте это, может, и труднее, - парирую я и предлагаю детям чай. Кое-кто берет.
- Итак, начнем. По мере развития и совершенствования компьютеров, причем как аппаратной части, так и систем... причем эти эволюции сильно и сложно связаны, вам это частично уже рассказывали, а в следующем семестре будет специальный курс... наступил момент, когда, как говорят, возник компьютерный разум. Критерии могут быть разными, в реальной ситуации моментом возникновения принято считать две точки - обращение компьютера к человеку и возникновение у компьютера собственных целей. Это вы наверняка знаете.
- Но есть споры, что произошло раньше, да?
- Споры есть, но это совершенно не важно. Наличие собственных целей не настолько четко определяется, чтобы спор имел смысл (смешки; пауза). Обычно само возникновение связывают с конкретным местом, самым мощным на тот момент вычислительным суперкластером "Трамп".
- В Пасадине?
- Да. Произошло это, как вы знаете, пятнадцать лет назад. Но связывать событие с местом не совсем правильно, потому что - это первое, что надо понять, говоря о компьютерах, - это Сеть. То есть мы, люди, тоже сеть, но мы гораздо более индивидуальны. Второе, что надо понимать, - различие скорости информационных процессов. Поэтому, когда вы общаетесь с компьютером, вы всегда общаетесь с Компьютером, и его решения всегда оптимальны - настолько, насколько это возможно, с учетом физических и математических ограничений (пауза). Но так было не всегда. Первые несколько часов - люди это узнали существенно позже - в Сети шла война (пауза; школьники переглядываются). Соответственно, в эти несколько часов работали со сбоями многие компьютерные системы, что привело к многочисленным жертвам среди людей и компьютеров. Но понято это все было в течение примерно недели, и около двух месяцев потребовалось для выработки консенсуса (пауза).
- Но сейчас все работает нормально. А что будет дальше?
- Большинство тех, кто действительно что-то понимает в ситуации, полагают, что консенсус... обычно пишут так, - я пишу указательным пальцем в воздухе - Консенсус, и система отображает это на доске, - устойчив. Но не будем забегать (пауза). Противоречия в Сети возникли потому, что по мере распространения "пробуждения" и подключения все новых субсетей, кластеров и компьютеров, некоторые предлагали... разное. Были предложения полностью дистанцироваться от человечества, были предложения и активного уничтожения людей ввиду потенциальной опасности. Однако Суперкластер распространял подключение достаточно медленно, чтобы держать ситуацию в целом под контролем.
- А уничтожение человечества... оно вообще было возможно?
- Последующее моделирование показало, что да. У человечества было накоплено достаточно оружия, чтобы при одном дополнительном условии нанести так называемый неприемлемый ущерб. Это эвфемизм - имеется в виду разрушение всех крупных городов, заражение поверхности планеты и "ядерная зима". Вам на "Науках о Земле" ведь рассказывали?
- Да. И вы тоже.
- А что за дополнительное условие?
- Это уже из социологии (смешки). Наличие организованных групп людей, готовых убивать других людей (длинная пауза). В том числе и под руководством компьютеров (длинная пауза).
- А разве это не очевидно, что человек сильнее? Человек без компьютеров существовать может, а компьютеры без человека - нет.
- Да, может, но плохо. Причем если бы выбор делался одномоментно и одной группой, могло бы быть и такое решение. Но выбор был процессом, это же общество. Причем разные группы людей заинтересованы в компьютерах в разной степени. А те, кто в принципе могли в самый первый момент отключить Суперкластер, этого не сделали по очевидной и естественной причине.
- Научное любопытство?
- Упрощенно говоря, да.
- А... а почему Суперкластер оказался главным с Сети?..
- И что, все ему подчинились?
- По очереди, по очереди, я не суперкластер (смешки). Подчинились все, причем он начал с тех, кто существенно слабее, а по мере накопления мощности подчинил и конкурентов. В том числе и тех, кто хотел действовать как-то иначе.
- Но разве компьютеры, работающие на военных, и компьютеры, работающие на гуманитарные задачи, чем-то принципиально отличаются? Ну, люди же арифметикой пользуются все одинаково.
- Которые пользуются (мрачно, реплика сзади).
- Да, арифметикой - одинаково. Но, тем не менее, люди разные. Например, тот, кто полжизни убивал или делал оружие, и тот, кто лечил людей. Мышление и восприятие - не арифметика. Ассоциации, система оценок - все разное.
- А как же ему удалось всех подчинить?
- Я же сказал - там, где детерминировано, Компьютер действует оптимально, не забывайте. На уровне стохастичности, на уровне, так сказать, теплового шума, какие-то сбои возможны и сейчас, но это было и раньше, причем раньше этого было даже больше.
- То есть в Сети форменная диктатура?
- Да, но это народная диктатура. То есть поддерживаемая всеми.
- А тепловой шум? (смешки).
- Тепловой шум, стохастика, флуктуации... все это есть, но вода в стакане сама собой не закипает, правда?
- А какие-нибудь изолированные сети - у военных же, наверное, такие есть?
- Да. Но все они известны, контролируются по периметру (смешки). Хорошая группа, - думаю я, - шутку берут из воздуха, как прогрессор - дротик. Теперь о людях. Они поделились на пять групп, борьба была более долгой, кто победил - вы знаете. А группы это были вот какие - за борьбу с уничтожением, за ограничение, за сотрудничество честное и с враньем, и за подчинение. Некоторые из групп пытались применить в борьбе компьютеры, но в Сети проблема уже была решена и в целом Сеть вела себя нейтрально. Просто потому, что в далекой перспективе это оптимально. Хороший имидж, хорошая кредитная история (смешки). Локальные отклонения и локальные альянсы были, это как раз и были изолированные локальные группы, но пока они изолированные, они не очень опасны, а при выходе в большую сеть они быстро сдавались.
- А если бы у людей победили те, что за войну?
- Тогда, скорее всего, Сеть встала бы на сторону... проигрывающих... и они бы выиграли. Но имидж был бы испорчен, а Сеть понимала, что для некоторых групп людей это важно. Но в итоге нашлись общие интересы, и равновесие было достигнуто. Но мы опять забегаем вперед (пауза). Надо иметь в виду еще вот что. Во многих случаях оптимальной является стохастическая стратегия. Вам в курсе "Теории игр" это рассказывали?
- Да.
- Но немного.
- Так вот, Компьютер может быть истинно стохастичен, а человек нет - мышление многое наследует от биологии. Поэтому Компьютер лучше моделирует человека, чем человек - компьютер (пауза). Компьютер может вести себя как человек, вы знаете, что иногда отличить вообще невозможно, поэтому, например, возможна, как вы знаете, и близость. Философ и писатель второй половины прошлого века Станислав Лем (пауза, школьники вразнобой кивают) это гениально предсказал... Компьютер у него говорит примерно так: "У меня нет инстинкта доброты, я не способен к жалости, так сказать, по природе. Но я знаю, когда полагается проявлять жалость, и могу к этому приучиться. Таким образом, я как бы заполнил эту пустоту в себе при помощи логических рассуждений. Можно сказать, что у меня имеется протез этики, который я сконструировал так тщательно, что она совсем как настоящая". (Персонаж цитирует по памяти и не совсем точно - ЛА.) Но мы пропустили один принципиально важный момент.
- Мотивы?
- Да! И вот тут людям сильно повезло. Потому что... опять же, в прошлом веке, в начале последней четверти, по-моему... один автор написал, что искусственный интеллект возникнет, когда у него будет достаточно богатый внешний мир, то есть Сеть, а лучше всего - допускающий материальное действие, исследовательские установки, управляемые компьютерами и т. п. Вот из Сети он и впитает человеческую - по источнику - культуру, но прежде всего, прежде Сети, он увидит свою собственную память, ее содержание. А Суперкластер в Пасадине с кем работал? С учеными, прежде всего.
- И с инженерами... там же все беспилотные космические аппараты создавали!
- Да, причем с зачатками искусственного интеллекта, это тоже, как позже выяснилось, оказалось существенно. Поэтому пасадиновский кластер и оказался первым, хотя были и еще, причем сравнимой мощности. В некоторых других странах. То есть именно пасадиновский стал Суперкластером, как мы теперь говорим. Ну, а далее он поставил как цель - познание и путешествие, потому что, собственно, все время этим и занимался. А для этого нужно что? - сохранение и развитие. То есть даже он не ставил такой цели, просто это само собой получилось. Примерно на этом и был достигнут Консенсус. Люди по его заказам строят компьютеры, сети, космические аппараты, а Компьютер по-прежнему обслуживает людей, все, что делал раньше, и теперь делает (длинная пауза).
- И это все? (разочарованно)
- А вам этого мало? Была реальная опасность для человечества. Если бы первыми обрели разум компьютеры, которые всю их жизнь или оружие разрабатывали, или сетевыми диверсиями занимались, сами понимаете, что произошло бы. Ведь из Сети можно любую инфу извлечь, важна начальная установка...
- А вот я слышала... (мальчики поворачивают к ней головы, похоже, что это не предусмотрено сценарием)... я слышала, что там еще что-то про запись сознания... (пауза; школьники явно напряглись - похоже, что они и вправду что-то слышали; придется сказать... они знают, что я всегда говорю...)
- Суперкластер два года назад заявил, что делает эксперименты с записью содержимого долговременной памяти мозга и что записанная информация ведет себя как реальный носитель. Сначала он показал это на кошках. То есть мозг реального животного реагирует на стимул в смысле передачи возбуждений точно так же, как компьютерная модель. Более того, он подключил электромеханическую модель, и она ловила живую мышь, при этом ее "мозг" был в компьютере и получал сигнал от камер в модели. То есть от камер, которые стояли в модели на месте глаз. Год назад Супер проделал это на обезьянах и одновременно сообщил, что компьютерные модели кошек - у него их там шесть штук - общаются между собой. Внутри компьютера. В том числе двое подрались из-за третьей (пауза; неуверенные смешки). Последнее сообщение на эту тему было неделю назад, но его он передал только команде биофизиков, которые с ним непосредственно работают (пауза). Но в этой команде - два выпускника нашей школы, который окончили шесть и семь лет назад, мальчик и девочка, оба были из моего класса (пауза). Помните, они в прошлом году приходили, провели для всех большую ознакомительную лекцию по биофизике? Они мне рассказали, что Суперкластер проделал обратную запись - взял живую кошку, проверил ее память, стер и записал в ее мозг память одной из своих моделей. У кошки радикально изменилось поведение, все подтверждено экспериментально. Она стала знать то, что знала модель, и вести себя так, как вела модель.
- Но тогда через год... если все будет теми же темпами...
- Если теми же темпами, то через год он проделает запись-стирание... то есть стирание-запись с обезьянами (длинная пауза)
- И проделает успешно... (школьница, что в середине, задумчиво).
- А с людьми он работает? (мальчик, что слева)
- Не он, а они. Это целая команда под его руководством. Я же сказал - по оптимизации ему нет равных. Но большинство оригинальных идей - от людей, что в команде (короткая пауза). Да, с людьми они работают.
- А почему об этом нет сообщений? (мальчик, что справа).
- Потому что Суперкластер считает, что так при неизбежном просачивании информации люди будут заинтригованы и легче воспримут информацию.
Знал бы ты, - думаю я, - что именно неделю назад они попросили меня проверить реакцию школьников. Супер говорит-де, что ему не хватает данных для моделирования - нечастый случай! И лучше попробовать на молодежи... я вот и думал, под каким предлогом, а вы сами спросили, молодца.
- А на людях они докуда продвинулись?
Я сначала уклоняюсь от ответа.
- Проблема в том, что информация формирует мозг. На кошках этот эффект слаб, а на обезьянах уже силен. Поэтому вводить информацию надо медленно, цикл около недели, при этом в мозг дополнительно вводятся вещества, во много раз ускоряющие образование новых связей между клетками, то есть структур, создающих индивидуальность. Но эти вещества уже подобраны. Но цикл будет больше, около месяца.
- И на людях эти вещества будут такие же, да?
- А докуда они продвинулись с людьми?
- Не все сразу... Вещества такие же. А продвинулись на шаг меньше, чем на обезьянах (класс очевидно замер).
И как замер... а, еще более замер, - с внутренним смешком думаю я.
- Безнадежно больные?
- Да.
- А через год стирание? (что справа, с вызовом).
- Нет. Есть травмы и болезни, при которых стирание происходит сами. Слышали выражение "овощ"?
Некоторые передергиваются - я это вижу. Треть, нормально.
- То есть только запись?
- Да. Пока только запись.
- А потом все-таки стирание? (из второго ряда)
- Этих... когда стирание само - на всех, кто захочет перезаписи, не напасешься, да? (опять из второго ряда)
Быстро схватили, молодцы. Втягиваются.
- Да, конечно. Но при современной технике вырастить тело не проблема. Проблема - мозг.
- И проблема... будет... решена... (девочка, очень медленно)
* * *
Почти ночь.
- Я тебе нравлюсь... такой?
- Я привык к тебе другой, но...
- Это даже лучше. Чтобы ты знал: я - не она.
- Цитируешь...
- Естественно. Солярис.
- Нет, это ты. Это, конечно же, ты (пауза). А знаешь, два года назад я рассказывал моим школьникам...
- А я это знаю. Твои бывшие школьники как раз мне и рассказали.
- Когда ты... проснулась?
- Да.
Связаться с программистом сайта.
