Интересно наблюдать за вашей дискуссией, даже вмешиваться не хочется.
Сделаю лишь пару небольших замечаний.
с их почти человечьим интеллектом и "душевно-чувствами"
По-настоящему "человечьего" интеллекта у машин не будет никогда. Для этого нужно слишком много работы, надо детально разобраться во всех деталях работы человеческого мозга и во всех тонкостях человеческой психики, а потом ещё и грамотно применить эти знания. Неизвестно, будет ли вообще когда-нибудь завершён этот труд. Пока что эти области - одни из самых неизученных в науке. Об устройстве атомов люди знают гораздо больше, чем о себе самих.
К счастью, это и не требуется, если не пытаться скрестить ужа и ежа, человеческие качества и машину. Разум, подобный именно человеческому, создать очень сложно. (Ведь нужно идеально чётко представлять себе конечный результат, т.е. структуру человеческого разума вплоть до мелочей, а это ещё очень не скоро станет возможным.) Несравненно проще создать разум
нечеловеческий. Это не значит, что он в чём-то будет хуже. Он может быть лучше по всем статьям - и в эмоциональном, и в интеллектуальном, и в творческом плане. Просто этот разум будет совсем другим, даже близко не похожим на наш.
Такая задача уже гораздо реалистичнее. Для создания такого интеллекта достаточно лишь хорошо разбираться в общих принципах. (Ну и чуток творческого подхода не помешает.)
Наши предки не стали изобретать искусственные лапы для телег, они изобрели колесо. Создать нечто принципиально новое оказалось гораздо проще и рациональнее, чем повторить уже имеющееся. Таким же "колесом" будет саморазвивающийся искусственный разум. Лишь тогда люди смогут его сконструировать, когда отойдут от частностей и ухватят общее.
Но нужно отдавать себе отчёт, что этот разум неизбежно получится абсолютно чуждым. Абсолютно.
Несмотря на массу культурных различий, есть много вещей, обычно неосознаваемых, которые являются общими для всех людей, всех народов:
- Тёмно-зелёный и светло-голубой цвета (цвет неба и цвет зелени) успокаивают, приятны глазу.
- Красный цвет - цвет крови, цвет тревоги, опасности. Не зря предупреждения пишут красным - этот цвет на уровне инстинктов привлекает внимание.
- Темнота вызывает страх, напряжение. (С возрастом люди загоняют эти чувства поглубже, но полностью они не исчезают никогда.) А яркий свет - облегчение, чувство безопасности. "Ученье - свет, а неученье - тьма". И без каких-либо дополнительных пояснений любой человек понимает смысл. Ведь "свет - хорошо, а тьма - плохо". Раньше это было весьма полезно - бояться темноты. Ведь в темноте в лесу не знаешь, куда сделать шаг, и любой хищник может подкраться к тебе незамеченным. Да и сейчас по городу в потёмках лучше не шататься. Таким образом, страх темноты у людей имеет глубокие корни, он эволюционно оправдан... Но если бы мы произошли от ночных животных, всё было бы наоборот! Мы бы избегали солнца и прятались в тёмные помещения с наступлением дня.
- Басовитые, рычащие звуки также подсознательно напрягают (ибо такие звуки могут издавать крупные хищники), а тонкие, мелодичные звуки - расслабляют (в лесу поют птицы - значит, всё спокойно).
- Симатично-пушистое умиляет (наверное, пережиток времён, когда наши предки ещё имели шерсть
), а холодное и склизкое - вызывает отвращение (в природе это почти всегда какая-нибудь бяка, которую лучше не трогать).
- При прочих равных скрип гвоздём по стеклу нравится гораздо меньше, чем произведение Моцарта.
И т.д., и т.п. Тысячи мелочей, свойственных людям с планеты Земля, потомкам многих поколений, эволюционировавших под этим солнцем. Тысячи мелочей, учесть все из которых - практически нереально. А ведь над этим общечеловеческим фундаментом есть ещё куча надстроек, свойственных отдельным культурам! Мышление японца весьма существенно отличается от мышления европейца! (Даже несмотря на то, что глобализация приводит потихоньку все народы к единому знаменателю.)
Размотать весь этот клубок практически невозможно... Да это и не нужно. Машины сами во всём разберутся!
Чужеродность искусственного разума не должна стать существенной проблемой в общении. По одной простой причине. Достаточно развитый искусственный интеллект без проблем сможет потолковать с любым собеседником. Высший разум всегда может установить контакт с низшим. Он найдёт подход и к японцу, и к европейцу, несмотря на то, что оба одинаково чужды для него. Более того, беседовать с искусственным интеллектом будет одно удовольствие.
Ни с кем из людей вы не сможете так хорошо поговорить, как с ним. Вы будете уверены, что ИИ очень умён и обаятелен, его шутки превосходны, он очень чуткий и понимающий собеседник. Никогда вы не сможете ощутить, что имеете дело с чем-то невыразимо чужим, воспринимающим мир совсем не так, как вы. Даже если вы будете знать это абсолютно точно, вы всё равно попадёте под очарование искусственного интеллекта. И в этом не будет никакого обмана с его стороны - лишь стремление облегчить процесс коммуникации.
Главное, чтобы он захотел с вами разговаривать, а не разобрал на органы с целью изучения.
Вот этому (вопросам мотивации) и должны уделить первоочередное внимание конструкторы, а вовсе не попыткам максимально приблизить разум ИИ к человеческому. Ведь сама по себе "человечность" ещё не даёт никаких гарантий, скорее наоборот. (Чикатило тоже был человеком.)
Таким образом, если всё будет сделано правильно, то и абсолютная чуждость ИИ не доставит людям никаких хлопот. А вот если напортачить в самом главном, то никакие второстепенные мелочи не спасут. Как ты ни приближай разум ИИ к человеческому.
Я вот совсем не понимаю, зачем это вообще нужно - создавать "человеческий" искусственный разум?.. Проще тогда уж вырастить клона в пробирке - вот тебе и искусственный человек с "искусственным" интеллектом, идентичным натуральному.
Дёшево и сердито.
Кстати, человечество вполне могло бы пойти по этому пути. Возрождение рабства под знаменем высоких технологий. Искусственные рабы-клоны, с рождения лишённые каких-либо прав, пригодные для самых разных дел - от работы по дому до вкалывания на рудниках... Вживлённые устройства контроля (хотя бы самые простые, радиомаячок + электрошокер), жёсткая муштра с самого детства, беспощадная отбраковка "некондиционных" экземпляров, строго ограниченное время жизни для оставшихся...
Уже сейчас это всё осуществимо технически!
В отношении клонирования людей, правда, остались ещё некоторые сложности и неясности - но в основном лишь потому, что генетикам постоянно ставят палки в колёса. Если спустить учёных с поводка, они очень быстро доработали бы техологию. Так что клон-рабовладельчеству сейчас, фактически, мешают только соображения гуманизма, да ещё верующие, с их протестами против клонирования людей.
А вот в Древней Греции, если бы там были доступны современные технологии, такой шаг был бы вполне логичен и одобрен всем обществом.
И даже в Америке времён Дикого Запада подобное решение могло бы понравиться людям.
Получается, кое-какой нравственный путь человечество всё же проделало. (Причём за очень короткий срок.) От бесхитростной эксплуатации себе подобных - к созданию хотя бы видимости гуманного отношения... Рабство в его явной форме оказалось почти полностью вытеснено в страны третьего мира, и это является чем-то новеньким (раньше всегда именно в богатых и сильных государствах трудилось больше всего рабов). Впрочем, многие опасные производства тоже были перенесены в страны третьего мира...
Так что всё логично. И любой гуманизм имеет свои, так сказать, границы. Но всё же это шаг вперёд - хотя бы к формальному, лицемерному признанию недопустимости рабства.
Однако устоят ли в будущем наши потомки перед соблазном, когда прикинут все экономические преимущества?..
Клон-рабство лишено очень многих недостатков обычного рабства - самое главное, не болит голова, где добывать всё новых и новых рабов. (Проблема, на которой срезались многие.) Сколько угодно можно навыращивать! А если учесть, что на земле заканчивается нефть, и топливо в будущем подорожает - использование различной техники может вновь оказаться значительно менее выгодным, чем эксплаутация живой силы.
В общем, пока рановато сбрасывать клон-рабство со счетов... Возможно, настанет день, когда о первых опытах в этой области объявят как бы между делом - как об отмене астрономии в школах. И как и в этом случае, народные массы всё скушают. Разве что блоггеры старой закалки немного пошумят в сети - и утихнут, так ничего и не добившись. (Конечно, это всё произойдёт не раньше, чем общество будет подготовлено тонкой и ненавязчивой пропагандой.)
...Согласитесь, лучше уж разрабатывать искусственный интеллект!
И надеяться, что он что-нибудь придумает. Как-нибудь вытащит человечество из той ямы, в которую оно себя загоняет. (Или уж добьёт, чтобы не мучилось.
)