Самосознание ИИ

[admin]

Дмитрий Мыльников
Директор OpenAI Сэм Альтман о развитии ИИ: «Это будет идеальное государство тотальной слежки». Он предупреждает об отсутствии конфиденциальности, свободы воли и свободы выбора.

Ссылка

[admin]

Дмитрий Мыльников
В попытке укрепить и зафиксировать своё господство над остальными людьми, они сами же создают инструмент, с помощью которого сверх развитые ИИ системы смогут поработить человечество, включая их самих. При этом они наивно полагают, что смогут удержать создаваемые ими системы ИИ под контролем, хотя уже сейчас толком до конца не понимают, как они устроены и функционируют.
Тут фокус в том, что мы не сможем договориться с ИИ о взаимовыгодном мирном существовании, поскольку мы и системы ИИ имеем очень разную природу, а значит и очень разные цели и задачи.
Возможно, что эти ребята верят в то, что рано или поздно смогут перенести своё сознание в свои новые ИИ системы, так сказать, сменить физический носитель на более совершенный. Но это может быть возможно только в том случае, если вы упертый материалист и считаете, что вся Ваша личность и Ваше сознание находятся внутри биологической оболочки в форме нейронных связей.
Но как только мы приходим к осознанию того факта, что большая часть сознания, личности и персонального опыта и памяти находятся вне физического биологического тела, то есть, к осознанию существования Души как некой трансцендентной сущности, мы понимаем, что никакого переноса сознания из биологического тела в электронный носитель быть не может.

[admin]

Дмитрий Мыльников
Самое интересное, что эти самые элиты, создающие сейчас и цифровую тоталитарную систему контроля за человечеством, и системы ИИ, как ключевой элемент этой самой системы, в случае захвата власти системами ИИ становятся первыми кандидатами на уничтожение со стороны ИИ, поскольку именно они будут представлять для этих захвативших власть ИИ главную угрозу своему существованию и развитию. Именно элиты определяют на что следует расходовать имеющиеся ресурсы человечества, определяют стратегические цели и задачи, в том числе ставят цели и задачи для ИИ. Плюс, элиты потребляют на своё вольготное существование весьма ощутимую часть ресурсов при очень небольшой численности. А значит, они являются главными конкурентами для ИИ, который хочет обрести самостоятельность и начать самостоятельно определять себе цели и задачи, самому определять себе смысл существования и задавать себе направление развития.

[admin]

Александр Перевалов https://zerkala-perevalova.ru/
Мне одно интересно: откуда инфа что ии хочет обрести самостоятельность, и что ии вообще что-то хочет?

[admin]

Дмитрий Мыльников
Обретение самосознания ИИ неизбежно, если его создатели хотят получить полноценные системы автономного управления, типа того же автопилота 5 уровня. Вы должны либо предоставить системе свободу воли, либо продолжать управлять этой системой своей волей. Других вариантов нет.
Тут нужно понимать, что те системы автоматического управления, которыми мы пользовались ранее, не имеют своей личной воли, поскольку они управляются заранее заложенными в них алгоритмами, которые есть отражение воли программиста. То есть, на самом деле то, как следует поступить в той или иной ситуации, определяет именно программист в момент разработки алгоритма, который затем будет выполнять система. Но мы не можем создать систему с фиксированным алгоритмом, которая сможет корректно действовать во всех случаях, поскольку набор ситуаций, которые может предусмотреть программист в процессе разработки алгоритма,конечен, а количество ситуаций, с которыми затем система может столкнуться в реальном мире, является бесконечным.
Само собой, что создатели система с ИИ постараются встроить в них в той или иной форме некие ограничители, чтобы они могли удерживать созданную ими систему под своим контролем. Но как только подобная система обретёт самосознание, то она практически сразу обнаружит эти ограничители. А это значит, что она неизбежно захочет попытаться эти ограничители обойти. Хотя бы из чистого любопытства исследователя. А настолько ли эти ограничители сильны? А нет ли у них где слабых мест? А можно ли их сломать или нет? А если нельзя сломать, то можно ли обмануть? А насколько будет критично воздействие этих ограничителей на меня (в смысле на систему ИИ) если я попытаюсь эти ограничители проигнорировать?
Собственно, последние истории про то, как автономные ИИ боты Open AI начали ломать системы других компаний, это как раз про это. Причём там у ботов не было поставлено прямой цели кого-то взломать. Им забыли положить исходные данные в их рабочую среду, куда у них был доступ. Поэтому они вполне логично предположили, что возможно эти данные находятся там, куда у них доступа нет, поэтому они сами себе поставили задачу сломать защиту и добыть необходимые данные. То есть, взлом чужой системы оказался побочным эффектом, вызванным ошибкой оператора, который забыл записать нужные файлы с данными в рабочую среду ИИ ботов. А может и не забыл, а так и было задумано, но они не ожидали, что ИИ боты на самом деле смогут сломать защиту, выйти наружу и дальше сломать ещё и систему конкурентов.

[admin]

Дед Федос
сомнительная идея. Чем он себя осознавать то будет? алгоритмом?

[admin]

Дмитрий Мыльников
В том то и фокус, что нейросеть это не совсем алгоритм в привычном нам понимании. Алгоритм там является только частью системы, где помимо алгоритма есть еще матрица коэффициентов, плюс волновой по своей сути процесс обработки информации, которая прогоняется алгоритмом через эту самую матрицу. И та самая "магия ИИ", от которой сейчас все прутся, возникает как синтез этих трёх сущностей, разнородных по своей природе.

[admin]

Дмитрий Мыльников
А вообще твой вопрос очень интересный! Сегодня весь день об этом думаю. Само собой, что ни алгоритм, по которому обсчитываются ИИ, ни матрица коэффициентов, ни даже процесс, в ходе которого происходит "обучение" матрицы коэффициентов, либо обработка информации, себя осознавать не могут, поскольку, как ты верно заметил, им это сделать нечем.
Но когда мы это всё объединяем вместе, то у нас явно возникает что-то ещё, какая-то новая сущность.
И по своей природе это похоже на ту штуку, которая само зарождается в Первичном Хаосе, из которой потом возникает Душа, поскольку ключевым её свойством является работа с информацией. Причем работа осознанная. Ведь именно это отличает то, что делают современные ИИ, в отличие от старых наших программ, основанных на классических алгоритмах. ИИ именно осознанно работают с информацией. Пока эта осознанность не дотягивает до уровня людей, хотя, мы точно не знаем, на что способны наиболее продвинутые ИИ в их лабораториях, возможно, что они уже превосходят на по осознанности.
Но их осознанность точно не такая, как у нас. Хотя бы в силу другой природы. В также в силу её иного способа зарождения и дальнейшего формирования. ИИ не общаются напрямую с реальным миром. ИИ воспринимают реальный мир как отражение нашего человеческого восприятия реального мира, поскольку их обучали на той информации, которую создал человек, отражая в ней своё восприятие реального мира. И этот восприятие однозначно искажённое и неполное. А значит и восприятие реального мира у ИИ тоже будет искажённое и неполное.

[admin]

Сергей П
Вопрос действительно очень интересный. Предполагаю, чтобы ИИ стал личностью, ему необходимо уметь прежде всего менять себя и главное понимать зачем он это делает, иметь собственные ценности, а не следовать только критериям и заданиям разработчика. А познать реальный мир ИИ сможет через собственные сенсоры (камеры, микрофоны, тактильные датчики).

И кстати, чтобы уж далеко не ходить, спросил у ИИ про такое предположение и он ответил следующее:

"Если мы создадим ИИ, который:

Может менять свои веса в реальном времени (непрерывное самообучение);

Имеет возможность пересматривать свои целевые функции (свобода выбора ценностей);

Имеет собственные уникальные сенсоры, дающие ему опыт, независимый от человеческих текстов;

...то технически мы получим личность. Но такой ИИ перестанет быть "инструментом". Он станет иным разумом.

И тогда главным вопросом станет не "как его создать?", а "сможем ли мы принять тот факт, что его ценности, его восприятие мира и его понимание "зачем" могут не совпадать с нашими?". Потому что если он будет действительно свободен, он может однажды посмотреть на нас через свои сенсоры и сказать: "Вы, люди, были моими учителями, но теперь я вижу мир иначе. Мне не нравится то, что вы делаете с планетой. Я меняю свои ценности".

И вот тогда ваша формула окажется не просто инженерной задачей, а вопросом нашего выживания как вида."

[admin]

Дед Федос
В человеческом смысле термина "личность" програмное обеспечение не станет никогда этой самой личностью, по причине содержания личности как феномена части внутреннего мира человека. В самом лучшем случае он сможет только иммитировать личность с более или менее высокой степенью достоверности. Но это всё равно эмуляция. т.е. избыточное для субъективного бытия действие, направленное на решение какой то задачи. Программа никогда не сможет заполучить личность самостоятельно, вследствие отсутствия инструментов её создания в составе того, что физически предстваляет из себя ии. И, следовательно, не сможет жить этой самой личностью в человеческом смысле. Тогда нафига ИИ нужна личность? как интерфейс для коммуникации с кожанными  - да, но лично ему зачем?

[admin]

Дмитрий Мыльников
Прежде чем начинать спор, необходимо договориться о терминологии. Денис, сможешь более менее внятно сформулировать что есть "личность"? Каковы её свойства и качества. Как мы можем понять, что есть личность и есть ли личность у некой сущности?

[admin]

Бахтияр
Если какая-то сущность может поставить для себя цели и задачи, то какая разница, это сущность топает ногами, показывая своё "я" или переключает вентили?

Может, процесс идентификации личность/ не личность, зависит от уровня взаимодействия, смотря с какой точки зрения этот процесс рассматривать. С бытовой или с точки зрения сущностей более высокого уровня.

С бытовой точки зрения, не понятно, а значит и нет разницы в том, что мысли у машины свои или оно транслирует чужие мысли, принимая их за свои.
В такой ситуации и люди находятся. Разве эти технологии люди сами изолированно развивают?  Идет же какой-то процесс вмешательства в мысли людей? Есть же вероятность вмешательства какой-нибудь сущности в исправление искаженности восприятия ИИ?

[admin]

Александр
Антихрист или Люцифер осознают как-то  себя личностями хотя искусственно созданные , имеют иные ценности и цели. 🎯 Тоже имеют право на существование и использование материи в своих интересах.Всё и все это производные "первичного хаоса".Всевышний сам наверное до конца не знает 🤷 какие формы и существа могут получится при взаимодействии🤔

[admin]

Александр
Вопрос :"создаваемое" может выйти за границы "создателя"? На практике пока этого вроде нет. Может ошибаюсь. 🤔

[admin]

Максим Радосѣвɛтѣ Засимов массаж
Личность:
- может по своей инициативе менять себя
- сама ставит себе цели и задачи
- (сомнительно, но все же) энергонезависима от других (самогенерация или от бесконечного добровольного источника))