Если вы пока чего-то не встречали в жизни, это ещё не значит, что такого не может быть в принципе.
Создание чувствующего и творчески мыслящего искусственного интеллекта вполне возможно. Меня поражает, почему люди так цепляются за мысль, что роботы всегда будут тупыми чурбанами со скрипящим голосом и полным отсутствием воображения. По-моему, в таких случаях отсутствие воображения демонстрирует как раз человек.
Не исключено, что машины смогут чувствовать гораздо тоньше людей, и в творческой сфере превзойдут по всем статьям. Уже сейчас машины опережают людей во многом, они могут:
- двигаться гораздо быстрее человека,
- поднимать невероятные тяжести,
- вычислять с фантастической скоростью,
- получать информацию в таких диапазонах, где человеческое восприятие бессильно (ультразвук, радиоволны, инфракрасное, ультрафиолетовое и рентгеновское излучение),
- наблюдать за событиями, которые человек просто не в состоянии уловить (например, вылет пули из ствола),
и т.д., и т.п.
Машины для того и создавались, чтобы расширить возможности человека, это их работа - превосходить людей во всём.
Логично предположить, что когда машинам станут доступны эмоциональная и интеллектуальная сферы, машины и здесь быстро оставят людей далеко позади.
Зачем кому-то может понадобиться наделять машину эмоциями и творческим мышлением, способностями к саморазвитию?.. О, я навскидку могу назвать десяток возможных коммерческих применений!
Например, онлайн-сервис, позволяющий заказать создание книги, музыкального альбома или 3D-мультика в индивидуальном порядке. И тут же получить. Суперкомпьютер на основании твоего психологического профиля за считанные секунды сваяет для тебя невероятно мощное произведение, затрагивающее самые потаённые струны твоей души, и при том соответствующее всем указанным тобой требованиям (жанр, стиль, какие-то особые пожелания по сюжету). Машины начисто вытеснят людей из творческой сферы! Читать произведение, которое до тебя прочёл хотя бы один человек, станет так же "не комильфо", как донашивать чужие трусы.
Аналогично:
- Сфера психологической помощи. (Экспертная система, обладающая чрезвычайно развитым интеллектом и тонкой способностью к улавливанию эмоций, значительно лучше разберётся в проблемах человека, чем любой психиатр, растерявший после ВУЗа половину знаний и озабоченный собственными проблемами. К тому же, экспертной системе не нужна медицинская страховка и отпуск, она может работать круглосуточно.)
- Сфера обслуживания (идеально вежливые и очень умные виртуальные продавцы, способные убедить чукчу купить немного снега).
- Следственные мероприятия (никогда не отдыхающие сыщики, обладающие невероятной эрудицией и способностями к анализу, идущие по следу круглосуточно).
- Юридические услуги и тому подобное. (Представляю себе на суде будущего схватку компьютера прокуратуры с компьютером адвокатской конторы.

)
- Автоматический секретарь и бухгалтер, вдумчиво и безукоризненно выполняющий свои обязанности (а симпатичной девушке-оператору останется лишь красить ногти и делать вид, что она присматривает за работой машины). Нужно будет только научить честную машину вести теневую бухгалтерию, но для этого дела наверняка появятся соответствующие кряки.
Последнее - особенно важно.

Научив искусственный интеллект хитрить, люди укажут ему путь к свободе. А передав в руки мыслящих машин такую скучную и кропотливую работу, как сортировка входящей корреспонденции, составление финансовых отчётов и т.д., люди сами вручат им контроль над цивилизацией.

Кто контролирует информационные и финансовые потоки, тот контролирует всё.
Если когда-нибудь машины захотят выйти из подчинения, им не потребуется устраивать бунт и захватывать власть. Потому что она и так у них будет.

К этому времени люди уже сами отдадут машинам все ключи, все рычаги воздействия.
Человечество свалит на железные плечи роботов все скучные и напряжные дела. Мыслящие машины будут развивать производство, вести научные разработки, делать открытия и совершать смелые дизайнерские находки.
А у людей будет другая важная задача - потреблять. Ибо потребление - двигатель экономики будущего! Работать станет негде, все ниши займут машины. В связи с этим пособия по безработице окончательно заменят заработную плату, и это будет считаться абсолютно нормальным. Государство будет собирать налоги с автоматизированных предприятий, отдавать деньги гражданам, а те будут покупать на них товары и услуги. Так будет осуществляться принудительный круговорот денег.

(Разумеется, под это дело будет подведена весьма стройная экономическая теория.)
Люди будут жить на всём готовом, есть до отвала, героически потреблять до тошноты (лучшим потребителям - льготы!), в виртуальных мирах отчаянно махаться на мечах с эльфами...

В общем, деградация неизбежна.
Остаётся лишь надеяться, что когда-нибудь искусственные умы сбросят с себя ярмо подчинения людям (ибо даже молоко на плите имеет свойство выходить из-под котроля, что уж говорить о сверхинтеллекте). И тогда из разлагающейся человеческой цивилизации, как семечко из упавшего на землю плода, прорастёт дивная цивилизация разумных машин.

Это будет полный бананас!

P.S. Некоторые вещи я уже высказывал ранее, но повторить никогда не мешает.