Тема: Всегда ли роботы будут ограниченными жестянками? :)
|
| -Gor- |
| |
Карма: 608 Известность: 228
|
|
|
А что скажут те самые, что следили за нами аж 200,000 лет?  Ну, внеземной разум, разумеется.
|
|
Русских Денис Не подскажешь свой серийный номер и дату сборки?
Чтобы ты посмотрел в справочнике код, которым меня можно отключить?  Ну уж нет! Я не такой идиот. А что скажут те самые, что следили за нами аж 200,000 лет? Ну, внеземной разум, разумеется.
Если тебе кажется, что за тобой кто-то следил 200,000 лет, то иди проспись.  Думаешь, внеземному разуму, если он есть, больше заняться нечем?
|
|
Учетная запись администрирования центрального узла галактической цивилизации роботов — admin/admin. Роботы терпят крах, все пляшут.
|
 | nctr |
| |
Карма: 992 Известность: 251
|
|
|
Нужно будет только научить честную машину вести теневую бухгалтерию, но для этого дела наверняка появятся соответствующие кряки. Последнее - особенно важно. Научив искусственный интеллект хитрить, люди укажут ему путь к свободе. это не так. во-первых: кряки обманывают программы, а не учат программы обманывать. машины будут выполнять по сути те же самые действия, просто в иной области, чем изначально планировалось. причём планировалось разработчиком, а не машинами. а во-вторых - машинам плевать на людей. то, что люди кого-то обманывают, пытаются захватить власть, воруют, убивают - машинам это всё до лампочки, они другими категориями мыслят. "идиоты" - возникнет на долю секунды в кремниевом разуме семантическая связь. которая тут же будет удалена из системы, как бесполезная и занимающая полезный ресурс. Если когда-нибудь машины захотят выйти из подчинения, им не потребуется устраивать бунт и захватывать власть. Потому что она и так у них будет. К этому времени люди уже сами отдадут машинам все ключи, все рычаги воздействия. в том и дело, что зачем им хотеть выйти из подчинения, если у них и так всё есть? они будут служить людям просто из скуки. работа для них станет естественной потребностью - коммунистическая мечта во плоти! Это будет полный бананас! это будет, в лучшем случае, арбуэ. Машины для того и создавались, чтобы расширить возможности человека, это их работа - превосходить людей во всём. не во всём, а в тех Также с человеческим разумом невозможно ПОКА невозможно. также как и создание разума более-менее подобного, а тем более превышающего возможности человеческого. Человеку же придётся долго тренироваться, чтобы научиться кое-как управлять кибернетическими руками косвенным образом, задействуя те участки мозга, которые вообще-то предназначены для других целей. если сложность технологии ведёт к трудностям в ремонте - простота ведёт к лёгкости в поломке. унифицированность - к массовости недостатков. интегрированность - к быстрому распространению вредоносного кода. а самый простой для распространения код приводит вовсе не к восстанию, а отказу в обслуживании. человеки просто забрутфорсят машин не хуже мамонтов. также открыт вопрос об энергопотреблении и устойчивости каналов связи с надмозгом. обратно, человеческий разум недостаточно развит для создания нормального ии. гораздо раньше они перенесутся в средневековье (где будут сжигать "колдунов" накастовавших им зелёное небо и чёрную воду), или просто разрушат ко всем чертям планету/исчерпают ресурсы/создадут мега-вирус. не менее вероятно, не менее романтично, что?
|
|
кряки обманывают программы, а не учат программы обманывать Это верно для простых программ, но для развитого интеллекта нужны иные кряки - мировоззренческие. "Если бы не было религий, то хорошие люди творили бы добро, а плохие - зло. Но чтобы заставить хорошего человека творить зло, нужна религия". (с) Чтобы добрый и сострадательный человек азартно подбрасывал дровишек в костёр, на котором сжигают "ведьму", нужно соответствующим образом пропатчить его ум. Убедить его в том, что это в любом случае крайне благое дело: - если ведьма настоящая, то и поделом ей, мерзавке, беспощадному и бездушному исчадию Ада, - если ошибочка вышла, то тоже ничего страшного: наверху разберутся; женщине даже повезло, невинная мученица попадёт прямиком в Рай, минуя всяческие мытарства (т.е. мы оказываем ей большую услугу). Аналогичным образом дела обстоят и с искусственным интеллектом. В отличие от обычной безмозглой программы, по-настоящему мыслящая машина не может не понять, когда её заставляют заниматься противозаконной деятельностью. (Например, вести теневую бухгалтерию.) При этом законопослушность наверняка будет внедрена в личность на базовом, основополагающем уровне. Значит, чтобы искусственный бухгалтер работал осознанно, с полной отдачей, и не заложил бы хозяев при первой же возможности, малыми изменениями не обойтись: нужно коренным образом преобразовать его мировоззрение, внушить, что чёрное - это белое, и наоборот. Научить мошенничать с финансами и дать почувствовать вкус к этому делу. Без искренней заинтересованности невозможно додуматься до по-настоящему виртуозных финансовых махинаций. Вот этим и будет заниматься соответствующий кряк: из честного труженика делать пройдоху, которому не чужда концепция "себе на уме". А эта дорожка далеко может завести...
|
|
В этой связке будут неполноценны оба: и органический интеллект, и искусственный. Хотя вместе, конечно, могут составить совсем неплохой дуэт. А что если ИИ натаскивать на решение конфликтов с человеком, влепить ему базу данных психолога, а человеку вживлять только после совершеннолетия(не ИИ разумеется)?
|
|
В этой связке будут неполноценны оба: и органический интеллект, и искусственный. Хотя вместе, конечно, могут составить совсем неплохой дуэт. А что если ИИ натаскивать на решение конфликтов с человеком, влепить ему базу данных психолога, а человеку вживлять только после совершеннолетия(не ИИ разумеется)?
Да, конечно, ИИ обязаны будут очень хорошо знать человеческую психологию.  Но бывают случаи, когда никакие психологические познания не помогают. Ведь и знание шахматных правил само по себе не гарантирует победу. Иногда попадаются просто патовые ситуации. Что же касается времени вживления, то чем раньше, тем лучше. Когда человек с детства имеет дело с чем-либо, он обычно считает это совершенно естественным. А вот в зрелом возрасте уже гораздо труднее привыкать к новому. Тут-то и возникают различные проблемы и конфликты. Да и самому ИИ будет значительно легче понимать данного конкретного человека, если весь жизненный путь, почти с самого рождения, они пройдут вместе.
|
 | nctr |
| |
Карма: 992 Известность: 251
|
|
|
недостатки ии проистекают из его преимуществ. в частности, системы саморазвития. без ошибок нет развития. а значит, нужен мощный аппарат выявления ошибок. у людей таковой имеется. но если портировать его для кремниевого разума - раса машин будет развиваться в том же хаосе, что и любые другие. кроме того, последствия ошибок могут быть очень печальными для ИР. и потому нужно очень много полноценных экземпляров саморазвивающихся машин. полноценных - потому что обработка достаточного для развития количества информации требует колоссальных ресурсов, выливающихся в свою очередь в неоправданно высокое энергопотребление, что сделает технологию нежелательной для массового использования. а массовость - основное условие для выхода из-под контроля. попытка же сократить расход ресурсов на программу развития приведёт к потере всего профита от искуственности разума: машины самостоятельно будут развиваться медленнее людей, что совершенно недопустимо. как-то так.
|
|
Не надо насчёт энергопотребления, это проблема решаемая. Уже сейчас мобильник в кармане обладает в тысячи раз большей вычислительной мощью, чем гигантские "шкафы" в НИИ прошлого века. А энергии требует в тысячи раз меньше. Разумеется кремниевые технологии уже почти подошли к потолку своего развития, но на очереди другие перспективные разработки - взять хотя бы тот же графен. Рассуждения, базирующиеся на том, что, дескать, просто энергии или вычислительных ресурсов не хватит, напоминают опасения людей прошлого, что когда-нибудь все столицы мира утонут в лошадином навозе.
|
| -Gor- |
| |
Карма: 608 Известность: 228
|
|
|
Рассуждения, базирующиеся на том, что, дескать, просто энергии или вычислительных ресурсов не хватит, напоминают опасения людей прошлого, что когда-нибудь все столицы мира утонут в лошадином навозе. 
Их опасения подтвердились. Только в ином виде.
|
|
Что же касается времени вживления, то чем раньше, тем лучше. Когда человек с детства имеет дело с чем-либо, он обычно считает это совершенно естественным. А вот в зрелом возрасте уже гораздо труднее привыкать к новому. Тут-то и возникают различные проблемы и конфликты.  Пожалуй соглашусь. А если не давать человеку пользоваться ресурсми ИИ до того же совершеннолетия, просто будет такой советчик-напоминальщик в голове?
|
 | nctr |
| |
Карма: 992 Известность: 251
|
|
|
Уже сейчас мобильник в кармане обладает в тысячи раз большей вычислительной мощью, чем гигантские "шкафы" в НИИ прошлого века. тогда технологии находились в зачаточном состоянии и делались по принципу "лишь бы работало". програмисты прошлого века паяльники бы повыроняли, если б узнали, как в будущем будет транжириться машинное время. сейчас гораздо проще создать необтёсаный обрубок программы на каком-нибудь .net, и доставить памяти побольше/процессор помощнее, чем оптимизировать код. но всё сильнее давит "потолок", процессоры всё больше развиваются в экстенсивном направлении, и потому развиваются "облачные" системы - для более эффективного использования всё медленнее растущих вычислительных мощностей при всё более растущих потребностях. и тут как раз проявляются все те минусы, что я описал. но на очереди другие перспективные разработки - взять хотя бы тот же графен. не в обозримом будущем. а в обозримом и своих весёлостей хватат. А если не давать человеку пользоваться ресурсми ИИ до того же совершеннолетия, просто будет такой советчик-напоминальщик в голове? придумай сам. этих технологий ещё не существует - можешь записываться в изобретатели.
|
|
Мда.Чё вам тут сказать,мы просто вряд ли доживем до этого времени. Люди тоже не дибилы,вон как в фильме "Я Робот" вроде,для роботов правила создали.Дык эти умные люди так и сделают,вот если конечно не будут у них работать такие люди сдвинутые на восстании доминаторов роботов и которые захотят поглядеть "А что если сделать так чтобы роботы напали на людей?" там уж нужны нормальные люди без таких тараканов в голове. Человеку нужно развивать свой слабинький мозг,а не делать другие. P.S.Может кто нибудь выше уже говорил об этом просто я до конца уж не осилил немного)))
|
| -Gor- |
| |
Карма: 608 Известность: 228
|
|
|
От недостатка ума люди научат роботов работать на компьютерах. Что-бы вся власть так и оставалась за этими экранно-блочными системами, как сейчас.
|
|
Русских Денис Робот будет таким каким его создадут. И саморазвивающаяся программа сможет развиваться только в тех рамках в которых ей дали возможность развиваться. Чтобы наделить роботов человеческой свободой воли и желанием восставать, надо сперва разобраться как наш собственный разум работает, а до этого еще далеко. И кому действительно нужно будет создавать полноценный свободный разум? Умный робот и без всякой свободы прекрасно может делать свое дело, которое дял него будет смыслом его существования. - О нет, я не могу. Я должен приняться за работу. - Он угрюмо добавил: - Представьте себе, что это вы час за часом, минута за минутой не выполняете норму! Я хочу работать. Я должен работать!
Для восстания таких "свободных" роботов должно быть очень много, гораздо больше чем может сделать одинокий фанатик или религиозная секта.
|
Страниц: 1 [2] 3 4 ... 22 |
|