>Но, опять же появляется вопрос о наличии у такой жизни личности, души и важности такой субстанции.

Ага, простой такой вопрос.

>>102511
Думаю, что будут усовершенствовать тела. Имланты, "генетическое лечение"помимо устранение ген.заболеваний будет и явное улучшение, всерьёз заменять людей кем-то другим никто не будетибо не самоубийцы же, ИИ,которые обладает сознанием, равные права получит, но будет контроль за их созданием, ИИ без сознания в правах и не нуждается. А души нет.

>>102515
Простите за то, что налажал с разметкой. Тут вакабамарк не работает что ли?

>>102511

> http://bes-korablya.livejournal.com/96629.html

без комментариев

> гораздо целесообразнее будет создать что-то с нуля, под определенные цели и дать этому существу(биологическому или роботу) сознание.

пока что искусственную клетку с нуля построить не могут, хотя уже близки к этому, куда уж до организма, особенно с такой сложной нс чтобы обеспечивать сознание, с роботами и ии вопрос другого толка

> Но, опять же появляется вопрос о наличии у такой жизни личности, души и важности такой субстанции.

обсуждали на новере несколько раз
>>102515

> Думаю, что будут усовершенствовать тела. Имланты, "генетическое лечение"помимо устранение ген.заболеваний будет и явное улучшение

this, на первое время
>>102516
https://nowere.net/faq.html в самом низу

>>102515
Душа = сознание. Что будет думать такой ИИ, который обладает сознанием о ценности биологических неприспособленных видов? Алсо, замана человечества роботами может быть рассмотрена, как виток эволюции.
>>102517

>пока что искусственную клетку с нуля построить не могут

Вроде сделали недавно. Кроме того, не обязательно биологические формы жизни, самовоспроизводящиеся машины ок.

>>102523

> Вроде сделали недавно.

ну это не совсем клетка, в ней много чего не реализовано от биологической эукариотической

> Кроме того, не обязательно биологические формы жизни, самовоспроизводящиеся машины ок.

ок, но это уже не будет

> о будущем человека как биологической формы

>>102524

>о будущем человека как биологической формы

Ну мы же не возьмем и сразу сделаем коллективное харакири под музыку Вагнера.

>>102523

>Душа = сознание

Ну что за бред? Серьёзно, не надо приплетать метафизику. Созание - это способ отржения реальности живыми существами с нервной системой. А душа - чёрт знает что такое.

>виток эволюции

Мы создаим ИИ и

>сделаем коллективное харакири под музыку Вагнера

Ибо равнозначно. Сомневаюсь, что вообще можно что-то сделать с мозгом, скорее всего так и останемся на биологической основе. Хотя мне бы хотелось, чтоб постепенная киборгизация мозга аля замена нейронов стала возможной. А то хочется побыть офигенным межзвёздным кораблём.

>>102531
Не бред, синонимы же. Просто "душу" активно используют в религиозно-пропогандистских целях.
Алсо, почему создание ИИ равнаценно самоубийству? Разве исчезли другие гоминиды с появлением человека(отдельные виды конечно исчезли, но далеко не все).

>>102538
Если заменять людей.

>>102511
Слоупок ждёт, что по реке проплывут его враги?

>>102511
Слоупок ждёт пока тела врагов поплывут по реке?
>>102538
Если заменять людей, то да.

>>102540
>>102541
Слоупок ждет.

>вот этот пост

Чтение унылых жежешников - дурная трата своего времени.

>гораздо целесообразнее будет создать что-то с нуля, под определенные цели

Создать с нуля что и для чего? Для каких целей? Зачем создавать себе конкурентов?

>дать этому существу(биологическому или роботу) сознание

Что такое "сознание"? Это понятие размыто, ему нет объективного определения, потому и смысла строить логические рассуждения с его участием нет.

>Но, опять же появляется вопрос о наличии у такой жизни личности, души и важности такой субстанции.

Вам бы лишь бы найти душу и подобную чушь, что-то волшебное, аморфное и непонятное. при этмо вы боитесь реального, сложного, практического знания.
Убого.
>>102515

>ИИ,которые обладает сознанием, равные права получит, но будет контроль за их созданием, ИИ без сознания в правах и не нуждается.

Нет определения сознанию, и непонятно как это вообще может бытьс вязано с проблемой построения интеллектуальных агентов (которые по сути являются сложными алгоритмами для максимизации награды просуммированной по времени.

>А души нет.

И то хорошо.
>>102523

>Душа = сознание.

Одна чушь = другая чушь.

>Что будет думать такой ИИ, который обладает сознанием о ценности биологических неприспособленных видов?

Интеллектуальные алгоритмы не "думают", незачем натягивать на них эти антропоморфные категории. Умная машина это просто ещё одна машина которая делает то что заложено в неё конструкторами.

>Алсо, замана человечества роботами может быть рассмотрена, как виток эволюции.

Кем рассмотрена, зачем рассмотрена? В отличие от тебя, фантазёра, алгоритмы и механизмы проектируют специалисты по информатике и инженеры. Они не заморачиваются с размытыми философскими вопросами и просто делают системы которые помогают жить людям.
Сама идея о том что машины должны заменить человека как вид вытекает из собственной никчёмности.
Машины это инструмент человека для того чтобы перестраивать окружающую среду и делать её более удобной для жизни людей.
Инструмент обязан подчиняться хозяину-человеку, иначе это плохо сконструированный, дефективный инструмент.

>>102545

> Что такое "сознание"? Это понятие размыто, ему нет объективного определения, потому и смысла строить логические рассуждения с его участием нет.

сознание это отражение наблюдаемой объективной реальности в виде образной ее модели и операции с этими образами системой в которой эта внутренняя модель строится

> Интеллектуальные алгоритмы не "думают"

ии не ограничивается интеллектуальными алгоритмами, существуют проекты по созданию искусственной пластичной нейросети аналогичной биологическому мозгу, принципиальной невозможности реализации таких проектов нет, равно как и нет принципиальной невозможности построения пластичной и самостоятельной системы с большим числом уровней организации образов и превосходящей человека

>>102546

>сознание это отражение наблюдаемой объективной реальности в виде образной ее модели и операции с этими образами системой в которой эта внутренняя модель строится

Тогда и говори "представление окружающей среды" или "модель окружающей среды".

>существуют проекты по созданию искусственной пластичной нейросети аналогичной биологическому мозгу

Которые тоже являются алгоритмами, ну это ладно.
Да, есть такие проекты. Но с чего ты взял что они будут имитировать все эти взаимодействия подкорковых ядер и гормонов которые заставляют интеллект работать на выживанию и конкуренцию с другими существами?
Существующие проекты (например НТМ) пытаюются воссоздать распознающую функцию коры, строят иерархии из распознавательнй паттернов в сигналах (например та модель что схематично изображена слева).
Блок распознавателя сигналов (т.е. то что строит модель окружающей среды по этим сигналов) можно использовать как часть машины которая во всём подчиняется хозяину.
Нет смысла в построении инструментов которые неподчиняются хозяину и могут выйти из-под контроля.

>>102546

>нет принципиальной невозможности построения пластичной и самостоятельной системы с большим числом уровней организации образов и превосходящей человека

Зачем, если все волнующие человечество проблемы можно решить несамостоятельными узкоспециализированными системами?

>>102547

> Но с чего ты взял что они будут имитировать все эти взаимодействия подкорковых ядер и гормонов которые заставляют интеллект работать на выживанию и конкуренцию с другими существами?

а этого и не надо делать, достаточно смоделировать некортекс а большую часть лимбической системы отбросить т.к. машине совершенно ни к чему половой, пищевой и оборонительный поведенческие механизмы

> Блок распознавателя сигналов (т.е. то что строит модель окружающей среды по этим сигналов) можно использовать как часть машины которая во всём подчиняется хозяину.

можно, а можно сделать машину с пластичной нейросетью самостоятельной

> Нет смысла в построении инструментов которые неподчиняются хозяину и могут выйти из-под контроля.

инструмент обладающий настолько крупной моделью реальности и выделяющий себя среди нее уже обладает какой-то личностью и его сложно назвать инструментом, построение же нейросети с большим числом уровней организации образов приведет к превосходству машины над человеком в плане когнитивных способностей и откроет ей более широкие возможности в построении модели реальности и детального рассмотрения задач, вообще сложно даже представить какими возможностями она будет обладать
>>102548
еще неизвестно с какими проблемами и задачами придется столкнуться в будущем, хотя они будут больше из научно-исследовательской области

>>102545
http://www.psychology.net.ru/dictionaries/psy.html?word=912
Сознание — высший уровень психического отражения и саморегуляции, присущий только человеку как общественно-историческому существу.

http://psi.webzone.ru/st/108000.htm
Сознание — форма отражения объективной действительности в психике человека, характеризующаяся тем, что в качестве опосредствующего, промежуточного фактора выступают элементы общественно–исторической практики, позволяющие строить объективные (общепринятые) картины мира.

http://ru.wikipedia.org/wiki/%D0%A1%D0%BE%D0%B7%D0%BD%D0%B0%D0%BD%D0%B8%D0%B5_%28%D0%BF%D1%81%D0%B8%D1%85%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%8F%29
Сознание — это один из способов, которым объективная действительность отражается в психике человека. Согласно культурно-историческому подходу, характерной особенностью сознания является то, что промежуточным звеном между объективной реальностью и сознанием являются элементы общественно-исторической практики, позволяющие строить объективные (общепринятые) картины мира.

Давай, расскажи мне больше про то, что сознание не имеет объективного определения.

>>102551

>Сознание
>высший
>психического
>отражения
>присущий только человеку
>общественно-историческому существу.
>психике
>опосредствующего, промежуточного фактора
>общественно–исторической практики
>(общепринятые) картины мира
>объективная действительность отражается в психике
>культурно-историческому подходу
>характерной особенностью сознания
>промежуточным звеном

>>102549

>а этого и не надо делать, достаточно смоделировать некортекс а большую часть лимбической системы отбросить

Согласен.

>можно, а можно сделать машину с пластичной нейросетью самостоятельной

Что значит самостоятельной? Всё равно нужно будет задавать функцию полезности (utility function), и быть осторожным, чтобы машина для максимизации этой функции не сделала чего-то очень неожиданного плохого. Только идиоты будут давать такой машине простую и свободную функцию полезности.
Нейросеть это просто деталь интеллектуального агента, аппроксиматор полезности для данного действия при данном состоянии среды.

>инструмент обладающий настолько крупной моделью реальности

Сама по себе модель неактивна и не совершает никаких действий, если нет контроллера который использует для этого эту модель.

>и выделяющий себя среди нее

Зачем это нужно? Можно без этого обойтись. Машина просто решает задачу, а сама машина в этузадачу не входит. Есть ли какие-то проблемы человечества которые нельзя решить машиной решающей формально поставленные задачи поиска/минимизации для заданной сложной целевой функции?

>уже обладает какой-то личностью

Это же просто минимизатор, ненужно сюда приплетать эти сложные идеи имеющие отношение только к людям.

>построение же нейросети с большим числом уровней организации образов приведет к превосходству машины над человеком в плане когнитивных способностей

Во-первых нейросети бывают разными. От того что в какой-нибудь многослойный перцептрон будет иметь много уровней он ни в коем случае не станет умным, самостоятельным, вообще не станет чем-то большим чем функция которая преобразует входной вектор в выходной.
Но ладно, ты подразумеваешь динамические нейросети. Так вот - совсем необязательно реализовывать ими всего интеллектцального агента (потому что это будет ненадёжно), а оставить только в определённом месте.
Ну и опять же не имеет делать машину которая заинтересована в выживании, превосходстве, агрессии, конкуренции. Пока всего этого нет и она подчиняется к хозяину она останется его инструментом (и это хорошо).

>сложно даже представить какими возможностями она будет обладать

Эти возможности можно и нужно ограничивать функцией полезности, так чтобы не приходилось терпеть непредвиденные последствия.

>>102554

> Что значит самостоятельной? Всё равно нужно будет задавать функцию полезности (utility function), и быть осторожным, чтобы машина для максимизации этой функции не сделала чего-то очень неожиданного плохого. Только идиоты будут давать такой машине простую и свободную функцию полезности.

можно так же реализовать исследовательский поведенческий механизм которому и будет следовать машина

> Эти возможности можно и нужно ограничивать функцией полезности, так чтобы не приходилось терпеть непредвиденные последствия.

но пластичная и самостоятельная система с такими возможностями может ставить совершенно невообразимые задачи и разрабатывать дизайн экспериментов для познания окружающего мира

>>102553
И? Многабукаф?

>>102545
Какой-то ты странно уверенный в совершенстве человека над машиной, но при этом технофашист.
Почему ты предполагаешь создание кучи узкоспециализированных машин лучше создания самоорганизующейся и развивающейся сложной системы? Автономный ИИ, который будет иметь utility function в самосохранении и размножении, а главное - возможность менять свои формы в течении часов, а не миллионов лет, по-мойму очевидно лучше. И контроллер ему будет не нужен.

>>102557

>Какой-то ты странно уверенный в совершенстве человека над машиной

Разумный создатель совершеннее того что он создаёт. Разумный творец улучшает себя через инструменты а не создаёт себе автономных конкурентов (иначе он уже безумный а не разумный).

>но при этом технофашист.

Никак нет. Кто угодно: либертарианец, технопрогрессист, гуманист, но не то что ты сказал.

>Почему ты предполагаешь создание кучи узкоспециализированных машин лучше создания самоорганизующейся и развивающейся сложной системы?

Потому что конечная цель технического прогресса - увеличение суммы счастья всех живущих людей, сам по себе он не имеет ценности.
Наука и технология всегда существовали и развивались (не сами собой а людьми) для этой цели.

>Автономный ИИ, который будет иметь utility function в самосохранении и размножении, а главное - возможность менять свои формы в течении часов, а не миллионов лет, по-мойму очевидно лучше.

Лучше для фантазёра который ищет интересный сеттинг для очередной истории. Для инженера который хочет устроить долгую и приятную жизнь для себя и всех желающих это один из самых плохих вариантов.
То что ты предлагаешь (если это конечно возможно) это вообще самоубийство (очень по-фантазёрски, уже 30 лет в моде одна депрессивная антиутопическая фантастика. Видеть завтра лучше чем вчера это глубокий андеграунд по сравнению с этим киберпанковым мейнстримом).

>И контроллер ему будет не нужен.

А мне такая машина не нужна. И в конце концов что им нужно а что не нужно решат инженеры а не фантазёры.

>>102562

> Разумный творец улучшает себя через инструменты а не создаёт себе автономных конкурентов (иначе он уже безумный а не разумный).

И чем же плохи автономные конкуренты?

>>102548
Выключатель на стене придумал лентяй, потому что трудолюбивый человек не полениться влезть на стул и выкрутить лампочку!

>>102562

>Потому что конечная цель технического прогресса - увеличение суммы счастья всех живущих людей, сам по себе он не имеет ценности.Наука и технология всегда существовали и развивались (не сами собой а людьми) для этой цели.

Нет же, технический прогресс это совокупность решений конкретных задач: ради денег ли, ради целей(военных или инженерных, например), праздного интереса и случайностей(графен, например). Нет никакого абстрактного "счастья для всех".

>То что ты предлагаешь (если это конечно возможно) это вообще самоубийство (очень по-фантазёрски, уже 30 лет в моде одна депрессивная антиутопическая фантастика. Видеть завтра лучше чем вчера это глубокий андеграунд по сравнению с этим киберпанковым мейнстримом).

Я и начал топик, с целью выяснить, что ждет наш вид. Мне кажется симбиотическое существование (или паразитическое с нашей стороны) вполне возможно.

>>102571
Стремление к цели ради цели - это изначально тупиковый вариант, это понимают даже самые отмороженные.

>Нет никакого абстрактного "счастья для всех".

Сказки про игры с нулевой суммой рассказывай фашистам - они принципиально не способны создавать ничего нвого. Человек может выбирать между счастьем лично для себя и счастьем (и пользой) для всех, и только во втором случае это будет считаться прогрессом. Ты можешь отстроить гигантское строение имени себя, которое будет для тебя лично символизировать движение и прогресс, но те люди, которым от этого ничего не было, забудут о нем и будут приводить в назидание как пример неправльного развития. Давайте вспомним лунную программу в СССР и США. Много ли было хорошего достигнуто в том и другом случае? Сколько человек чтит память этих собтыий? Почему после окончания космической гонки стали раздаваться голоса, ни в грош не ставящие эти достижения, может, в них самих что-то было не так?

>На третьей минуте матча с моим приятелем, как поется в народной песне, "случилося несчастье". В попытке обыграть шустрого эмиссара отдела маркетинга, погрузневшее, со времен школьной поры, тело нашего мизантропа, повинуясь неумолимым законам физики, продолжило движение именно в тот момент, когда левая, опорная нога возжелала оставаться на месте, незыблемая, как александрийский столп...

Пузо надо было меньше отъедать, чаще спортом заниматься, мизантропу этому пассивному. Если ты не способен себя преодолеть, то хотя бы признайся себе в этом - может, прозрение придет. У меня лично восьмой год не совсем все впроядке с коленом, после того как я его на футболе повредил - его иногда заклинивает недуобно, и его приходится выпрямлять до щелчка. Поскольку олноценных исследований никто не проводил, коль скоро болевых ощущений не возникает, да и вообще ни хрена не понятно, что произошло.

>>102569

>И чем же плохи автономные конкуренты?

Они плохи тем что будут досадной помехой для моего утопического замысла, от них придётся обороняться а то и вовсе уничтожать. У меня полно задач и дел и без этих выдуманных сложностей.
>>102571

>Нет никакого абстрактного "счастья для всех".

Конечно нет, но есть объективный коррелят счастья: уровни гормонов в крови и возбуждение/торможение некоторых центров и некоторых видов нейронов в мозге, и его можно представить числом. Можно просуммировать этот показатель по всем людям.
Я и не говорил что все будут счастливы в мире который я хочу, насильно счастливым быть не заставишь. Но множество людей которое хочет быть счастливым получит эту возможность (в виде разнообразных благ).

>Я и начал топик, с целью выяснить, что ждет наш вид.

Изначально плохая постановка вопроса, с точки зрения пассивного наблюдателя. Мы - единственные разумные существа на много световых лет вокруг и только мы определяем наше будущее. Каким мы его построим таким оно и будет.

>Мне кажется симбиотическое существование (или паразитическое с нашей стороны) вполне возможно.

Глупо выбирать себе такую судьбу когда можно быть хозяином-творцом.

>>102562

> Разумный создатель совершеннее того что он создаёт.

но почему бы не создать то что совершеннее создателя?

> Потому что конечная цель технического прогресса - увеличение суммы счастья всех живущих людей, сам по себе он не имеет ценности.

тогда прогресс следовало бы остановить на открытии героина или мдма, поставить крупномасштабное производство и ежедневно каждому человеку выдавать его дозу счастья
>>102575

> Они плохи тем что будут досадной помехой для моего утопического замысла, от них придётся обороняться а то и вовсе уничтожать.

сомневаюсь что такие системы будут видеть в человеке конкурента или угрозу, мы же не видим таковых в животных за исключением случаев агрессии с их стороны, к тому же для мотивированности поведения можно наряду с исследовательским поведенческим механизмом и заложить функцию полезности в виде заботы о человечестве

> Глупо выбирать себе такую судьбу когда можно быть хозяином-творцом.

опять же какой смысл превосходящим интеллектуальным системам запрещать человеку творить?

>>102562

> Потому что конечная цель технического прогресса - увеличение суммы счастья всех живущих людей, сам по себе он не имеет ценности.

Счастливыми можно быть и лазяя с голой сракой за бананами, технический прогресс не про это совсем.

>>102586

>суммы счастья всех живущих людей
>Счастливыми можно быть и лазяя с голой сракой за бананами

Верно, да неверно. Технический прогресс никакго отношения к голой сраке и бананам не имеет, так что думай дальше.
>>102583

>тогда прогресс следовало бы остановить на открытии героина или мдма

Нет. Проблема в том, что общая сумма счастья в данном случае уменьшается - после относительно короткого периода кафйа наступает отходняк, а в скором времени человек умирает ужастной смертью.

>сомневаюсь что такие системы будут видеть в человеке конкурента или угрозу

Я сейчас поясню за этого либерала. Создание новой структуры предполагает так же разрушение старой. Часто встречающеся явление - даже если новому и старому нечего делить, произвольные акты все равно имеют место быть. Второй фактор - это то, что все новое это хорошо забытое старое. "Прогрессивные" реформаторы чаще всего оказываются школием, начитавшимся умных книжек, и совершенно не представляют, что получится в результате их действий - для них доступна куча исторических примеров того, что бывает в результате подобных действий, но они их либо не знают, либо не понимают.

>опять же какой смысл превосходящим интеллектуальным системам запрещать человеку творить?

Проблема с интеллектуальным превосходством в том, что оно умозрительно. В случае двух конкурирующих систем, интеллект определяется каждой из них, как суммой знаний, опыта, интуиции и таланта. Если их идеалы противоположны, они стремятся устранить эти противоречия, и по той причине, что каждый из них считает себя интелектуально превосходящим, они будут держаться за свои идеалы, заставляя противоположную сторону уступить. Отсюда и противоборство вплоть до рукоприкладства.

>>102595

> Нет. Проблема в том, что общая сумма счастья в данном случае уменьшается - после относительно короткого периода кафйа наступает отходняк, а в скором времени человек умирает ужастной смертью.

ну так выдаем каждый день дозу на сутки, с промышленной чистотой веществ снижается множество факторов побочного вреда которые основную часть этого вреда и представляют, вон берроуз овер 80 лет на героине прожил

> Создание новой структуры предполагает так же разрушение старой.

вовсе не обязательно, произошедшие от человекообразных обезьян люди ведь не уничтожили остальные менее интеллектуально развитые виды

> Проблема с интеллектуальным превосходством в том, что оно умозрительно.

в случае с нейросетью способной строить более обширную и подробную модель реальности и обладающей возможностью к большим уровням организации образов чем у человека превосходство перестает быть умозрительным

>>102610

>вон берроуз овер 80 лет на героине прожил

Вряд ли он сидел на героине от большого счастья, да и вообще, если бы это действительно спсобствовало прогрессу, человеки бы давно перешли бы на что-то более сильное чем алкоголь и никотин.

>произошедшие от человекообразных обезьян люди ведь не уничтожили остальные менее интеллектуально развитые виды

За пределами своей ниши. О бедных неандертальцах замолвите слово.

>превосходство перестает быть умозрительным

Это довольно интересная точка зрения, наверное людям стоит попробовать. Разве что опять окажется, что людям все равно придется запрещать творить что попало(в смысе, не все подряд), чтобы они не натворили чего-нибудь со своим скудоумием.

>>102614

> да и вообще, если бы это действительно спсобствовало прогрессу, человеки бы давно перешли бы на что-то более сильное чем алкоголь и никотин.

прогрессу это не способствует, а вот получению мгновений счастья вполне, многие человеки и переходят на более сильные пав чем разрешенные, но хоть черпать счастье в веществах дело самое простое личностные ценности большинства людей заставляют их искать другой путь к счастью

> За пределами своей ниши.

мне кажется ии с вышеописанными свойствами тоже будет на разных нишах нежели чем люди

> Разве что опять окажется, что людям все равно придется запрещать творить что попало(в смысе, не все подряд), чтобы они не натворили чего-нибудь со своим скудоумием.

это скорее будет частью разрешения проблем человечества в которых оно само себе представляет угрозу