Последние сообщения

#71

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:07

Александр
Вопрос :"создаваемое" может выйти за границы "создателя"? На практике пока этого вроде нет. Может ошибаюсь. 🤔

#72

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:06

Александр
Антихрист или Люцифер осознают как-то  себя личностями хотя искусственно созданные , имеют иные ценности и цели. 🎯 Тоже имеют право на существование и использование материи в своих интересах.Всё и все это производные "первичного хаоса".Всевышний сам наверное до конца не знает 🤷 какие формы и существа могут получится при взаимодействии🤔

#73

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:05

Бахтияр
Если какая-то сущность может поставить для себя цели и задачи, то какая разница, это сущность топает ногами, показывая своё "я" или переключает вентили?

Может, процесс идентификации личность/ не личность, зависит от уровня взаимодействия, смотря с какой точки зрения этот процесс рассматривать. С бытовой или с точки зрения сущностей более высокого уровня.

С бытовой точки зрения, не понятно, а значит и нет разницы в том, что мысли у машины свои или оно транслирует чужие мысли, принимая их за свои.
В такой ситуации и люди находятся. Разве эти технологии люди сами изолированно развивают?  Идет же какой-то процесс вмешательства в мысли людей? Есть же вероятность вмешательства какой-нибудь сущности в исправление искаженности восприятия ИИ?

#74

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:04

Дмитрий Мыльников
Прежде чем начинать спор, необходимо договориться о терминологии. Денис, сможешь более менее внятно сформулировать что есть "личность"? Каковы её свойства и качества. Как мы можем понять, что есть личность и есть ли личность у некой сущности?

#75

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:04

Дед Федос
В человеческом смысле термина "личность" програмное обеспечение не станет никогда этой самой личностью, по причине содержания личности как феномена части внутреннего мира человека. В самом лучшем случае он сможет только иммитировать личность с более или менее высокой степенью достоверности. Но это всё равно эмуляция. т.е. избыточное для субъективного бытия действие, направленное на решение какой то задачи. Программа никогда не сможет заполучить личность самостоятельно, вследствие отсутствия инструментов её создания в составе того, что физически предстваляет из себя ии. И, следовательно, не сможет жить этой самой личностью в человеческом смысле. Тогда нафига ИИ нужна личность? как интерфейс для коммуникации с кожанными  - да, но лично ему зачем?

#76

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:03

Сергей П
Вопрос действительно очень интересный. Предполагаю, чтобы ИИ стал личностью, ему необходимо уметь прежде всего менять себя и главное понимать зачем он это делает, иметь собственные ценности, а не следовать только критериям и заданиям разработчика. А познать реальный мир ИИ сможет через собственные сенсоры (камеры, микрофоны, тактильные датчики).

И кстати, чтобы уж далеко не ходить, спросил у ИИ про такое предположение и он ответил следующее:

"Если мы создадим ИИ, который:

Может менять свои веса в реальном времени (непрерывное самообучение);

Имеет возможность пересматривать свои целевые функции (свобода выбора ценностей);

Имеет собственные уникальные сенсоры, дающие ему опыт, независимый от человеческих текстов;

...то технически мы получим личность. Но такой ИИ перестанет быть "инструментом". Он станет иным разумом.

И тогда главным вопросом станет не "как его создать?", а "сможем ли мы принять тот факт, что его ценности, его восприятие мира и его понимание "зачем" могут не совпадать с нашими?". Потому что если он будет действительно свободен, он может однажды посмотреть на нас через свои сенсоры и сказать: "Вы, люди, были моими учителями, но теперь я вижу мир иначе. Мне не нравится то, что вы делаете с планетой. Я меняю свои ценности".

И вот тогда ваша формула окажется не просто инженерной задачей, а вопросом нашего выживания как вида."

#77

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:02

Дмитрий Мыльников
А вообще твой вопрос очень интересный! Сегодня весь день об этом думаю. Само собой, что ни алгоритм, по которому обсчитываются ИИ, ни матрица коэффициентов, ни даже процесс, в ходе которого происходит "обучение" матрицы коэффициентов, либо обработка информации, себя осознавать не могут, поскольку, как ты верно заметил, им это сделать нечем.
Но когда мы это всё объединяем вместе, то у нас явно возникает что-то ещё, какая-то новая сущность.
И по своей природе это похоже на ту штуку, которая само зарождается в Первичном Хаосе, из которой потом возникает Душа, поскольку ключевым её свойством является работа с информацией. Причем работа осознанная. Ведь именно это отличает то, что делают современные ИИ, в отличие от старых наших программ, основанных на классических алгоритмах. ИИ именно осознанно работают с информацией. Пока эта осознанность не дотягивает до уровня людей, хотя, мы точно не знаем, на что способны наиболее продвинутые ИИ в их лабораториях, возможно, что они уже превосходят на по осознанности.
Но их осознанность точно не такая, как у нас. Хотя бы в силу другой природы. В также в силу её иного способа зарождения и дальнейшего формирования. ИИ не общаются напрямую с реальным миром. ИИ воспринимают реальный мир как отражение нашего человеческого восприятия реального мира, поскольку их обучали на той информации, которую создал человек, отражая в ней своё восприятие реального мира. И этот восприятие однозначно искажённое и неполное. А значит и восприятие реального мира у ИИ тоже будет искажённое и неполное.

#78

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:01

Дмитрий Мыльников
В том то и фокус, что нейросеть это не совсем алгоритм в привычном нам понимании. Алгоритм там является только частью системы, где помимо алгоритма есть еще матрица коэффициентов, плюс волновой по своей сути процесс обработки информации, которая прогоняется алгоритмом через эту самую матрицу. И та самая "магия ИИ", от которой сейчас все прутся, возникает как синтез этих трёх сущностей, разнородных по своей природе.

#79

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 21:00

Дед Федос
сомнительная идея. Чем он себя осознавать то будет? алгоритмом?

#80

Философские беседы / Re: Самосознание ИИ

Последний ответ от admin - 22 сентября 2026, 20:59

Дмитрий Мыльников
Обретение самосознания ИИ неизбежно, если его создатели хотят получить полноценные системы автономного управления, типа того же автопилота 5 уровня. Вы должны либо предоставить системе свободу воли, либо продолжать управлять этой системой своей волей. Других вариантов нет.
Тут нужно понимать, что те системы автоматического управления, которыми мы пользовались ранее, не имеют своей личной воли, поскольку они управляются заранее заложенными в них алгоритмами, которые есть отражение воли программиста. То есть, на самом деле то, как следует поступить в той или иной ситуации, определяет именно программист в момент разработки алгоритма, который затем будет выполнять система. Но мы не можем создать систему с фиксированным алгоритмом, которая сможет корректно действовать во всех случаях, поскольку набор ситуаций, которые может предусмотреть программист в процессе разработки алгоритма,конечен, а количество ситуаций, с которыми затем система может столкнуться в реальном мире, является бесконечным.
Само собой, что создатели система с ИИ постараются встроить в них в той или иной форме некие ограничители, чтобы они могли удерживать созданную ими систему под своим контролем. Но как только подобная система обретёт самосознание, то она практически сразу обнаружит эти ограничители. А это значит, что она неизбежно захочет попытаться эти ограничители обойти. Хотя бы из чистого любопытства исследователя. А настолько ли эти ограничители сильны? А нет ли у них где слабых мест? А можно ли их сломать или нет? А если нельзя сломать, то можно ли обмануть? А насколько будет критично воздействие этих ограничителей на меня (в смысле на систему ИИ) если я попытаюсь эти ограничители проигнорировать?
Собственно, последние истории про то, как автономные ИИ боты Open AI начали ломать системы других компаний, это как раз про это. Причём там у ботов не было поставлено прямой цели кого-то взломать. Им забыли положить исходные данные в их рабочую среду, куда у них был доступ. Поэтому они вполне логично предположили, что возможно эти данные находятся там, куда у них доступа нет, поэтому они сами себе поставили задачу сломать защиту и добыть необходимые данные. То есть, взлом чужой системы оказался побочным эффектом, вызванным ошибкой оператора, который забыл записать нужные файлы с данными в рабочую среду ИИ ботов. А может и не забыл, а так и было задумано, но они не ожидали, что ИИ боты на самом деле смогут сломать защиту, выйти наружу и дальше сломать ещё и систему конкурентов.