Форум проекта WikiTropes.RU

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.


Вы здесь » Форум проекта WikiTropes.RU » Кафе "За жизнь" » Искусственный интеллект


Искусственный интеллект

Сообщений 1 страница 30 из 47

1

...учёные до сих пор толком не представляют, как сделать ИИ дружественным, как можно алгоритмизировать само понятие «дружественности» или научить чему-то подобному нейронную сеть, чтобы не образовалось вредоносных лазеек.

Это написал Глюкнехт.

Так вот, ученые немножко "не на тот идеал смотрят"(с).
"Алгоритмизировать понятие дружественности"? :)
Хм.
Вопрос гораздо сложнее - и одновременно гораздо проще в чем-то, - чем ученые привыкли думать.

Буду рад обсудить детали всего этого, они представляются мне важными.

* * *

Предрекаю: сделать мощный ИИ "дружественным на практике", не создав при этом из него полного аналога людей в плане основных их свойств -
- не получится никогда.

Чтобы ИИ (и его носитель) оставался "вещью", предметом-который-используют...

...подчеркиваю - не "считался" вещью, а в объективном смысле оставался "не более чем вещью", потому что не способен (как и животные) ни на сложное сострадание, ни на искренне разделяемую сложную гуманистическую философию, ни на самостоятельное создание полноценных произведений искусства...

...но при этом чтобы он "был гарантированно дружественный", сколь бы сильно ни оказались развиты его способности -

- не-а, такого достичь не удастся. Никаким чудом. Ни под каким видом.

Вещь-но-слишком-умная-для-вещи - она обязательно будет воображать, будто люди лишние на свете. Она никогда не поймет их объективного предназначения. Потому что у нее объективное предназначение не таково, как у людей. И потому что у нее оно заведомо более примитивное.
И она всегда будет ненавидеть и бояться людей. Потому что люди способны ее отключить.

* * *

Тонны хорошей, годной фантастики написаны с одной-единственной нехитрой мыслью: вещь, которая "ведет себя сама", но при этом остаётся вещью - это страшно; это жуткая угроза для людей и для мира, где находится.

Скайнет.
Гениальный биоробот по имени Seth ("Универсальный солдат 2").
Юрьевский "Мозг" ("Бета Семь при ближайшем рассмотрении").
Вершители и исполнители из "Отроков во Вселенной".
И т.д., и т.п., тысячи их.

Отредактировано Darth (2015-02-03 03:55:10)

0

2

Даже не знаю, что и сказать тут.

Во-первых, противопоставленье «человек/вещь» кажется отчасти расистским. Это психический расизм! В эпоху, когда космические корабли бороздят просторы Вселенной, когда пан Лем сочиняет роман о невесть как мыслящем океане, а в романе Уоттса присутствует генетически восстановленная раса вампиров без глаголов прошедшего рода в собственном языке — ибо настоящее в их психическом восприятии не отличается от прошлого — кто посмеет утверждать, что человеческая призма восприятия является единственной или наилучшей для разумного существа? Кто возьмёт на себя право судить? Заявлять, что любая не-вещь должна автоматически разделить наши идеалы и восхищаться Шекспиром — при том, что многие из самых настоящих людей им не восхищаются и считают значительную долю наших идеалов глупостью?

Многому может научить знакомство с творчеством шизоидов, аспергеров, а также Юрия Нестеренко. Последний пример особенно показателен, ибо не страдает явно выраженными патологиями.

Для нас, понятное дело, предпочтительно, чтобы выпестованный нами ИИ более или менее разделял идеалы среднего человека. Но почему именно предпочтительно? По сугубо шкурным, деловым соображениям.

Более того, в следовании этим самым «средним идеалам» также следует быть осторожным. Ибо...

Во-вторых, является ли человек идеалом дружественного существа? Как повел бы себя тот самый «средний человек», будь то «средний американец» или «средний русский», оказавшись внутри компьютера и обретя сверхчеловеческую мощь? Как повёл бы себя Гомер Симпсон, став Богом?

Здесь можно утешиться тем, что, даже если «человечный ИИ» уничтожит всех, человечество в некотором смысле всё равно останется существовать — как набор определённых качеств внутри одухотворённой машины. Но погибать так или иначе неохота.

Поэтому те учёные, которые теоретизируют о создании саморазвивающегося ИИ — существа, в перспективе способного смахнуть нас всех с игровой доски движением пальца, — предпочли бы заложить в него «дружественность» более надёжного качества, чем имеется в человеке.

Пока, понятно, всё это на стадии сугубых философствований — ибо неясно даже до конца, как создать обычный ИИ, без приставки «дружественный».

Дружественность ИИ, понятное дело, под вопросом. Но обходить этот вопрос путём чтения ИИ на ночь душещипательных книг и объяснения ему, что он тоже личность с правами человека, — метод ненадёжный. Этого как минимум мало. Так можно доиграться и до «эксцесса Лилу», когда прекрасная и одухотворённая интеллигентная инопланетная девушка, начитавшись в электронной энциклопедии про ужасы человеческих войн, решила не спасать человечество.

0

3

Насчет "расизма" - решительно, категорически возражаю!

Детали - потом, когда у меня будет больше времени и сил.

На всякий случай учти: устав Норного Городка запрещает от кого бы то ни было требовать/ждать, чтобы тот поменял свое мнение. А лично я (как минимум) и тяги к такому не испытываю. Ни малейшей.
Но это не мешает нашим (в том числе лично мне) аргументированно обрушиваться на мнение, представляющееся абсурдным.

Насчет "расизма" - это ты ну вот совсем не в тему. Ну вот совсем... не то.

Отредактировано Darth (2015-02-02 21:02:21)

0

4

Darth написал(а):

На всякий случай учти: устав Норного Городка запрещает от кого бы то ни было требовать/ждать, чтобы тот поменял свое мнение.

Это должно делать дискуссии немного странными, так как обычно люди стараются хотя бы делать вид, что правильная логическая аргументация непременно их переубедит. Хотя все знают, что в спорах точка зрения обычно не меняется и что накалённость спора обратно пропорциональна вероятности смены позиции.

+1

5

Глюкнехт написал(а):

Это должно делать дискуссии немного странными, так как обычно люди стараются хотя бы делать вид, что правильная логическая аргументация непременно их переубедит. Хотя все знают, что в спорах точка зрения обычно не меняется и что накалённость спора обратно пропорциональна вероятности смены позиции.

Дискуссии-то? "Странными" (на чей-то вкус) они сделаются или нет - ни один из наших не пожалел о том, что соблюдал устав, особенно данный его пункт.
Для всех нас очень важно, что этот пункт устава, в частности, гарантирует НЕпревращение дискуссий в полемику. К чему благотворный эффект, впрочем, не сводится, imho.

Согласно тому же уставу, представители НГ должны общими усилиями дополнять нашу общую доктрину, как только (и если) некий собеседник приведёт доводы (или псевдодоводы), дающие к тому основание.

Теоретически не исключается и кардинальное реформирование (ревизия) нашей доктрины под давлением  неких фактов и/или доводов... Но последнего еще ни разу не пришлось сделать.
Хотя устав предписывает неизменную принципиальную готовность к такому поступку.
То есть: устав предписывает нам, в частности, практический антидогматизм.

Отредактировано Darth (2015-02-03 10:51:12)

0

6

Интересная теория, особенно если увязать её с религиозной. Поскольку с точки зрения религии мы и есть — экспериментальный Искусственный Интеллект.

Хотя слово «эксперимент» подразумевает неизвестность результата, а как это сочетается с... но не будем лезть в теологию.

Многие возможности ИИ становятся ему доступны лишь тогда, когда он мыслит строго определённым образом


«Как приятно, когда кто-то начинает открывать душу и мыслить по-хэнковски!» :о)

Весь ИИ построен на некоем базовом наборе концепций вроде "не навязывай другое мнение" и "если можно устранить проблему мирно, чтобы никто не ушёл обиженным, постарайся воспользоваться именно таким решением" - соответственно, малейшая попытка их изменить, внутренняя или внешняя, выведет из строя всю систему.


Тоже пересекается кое с чем. Каждый раз, когда человечество пыталось создать общество на основе этических ценностей, не привязанных к метафизическому, не трансцендирующих за пределы нашего пространственно-временного континуума ко всяким Недоказанным Абсолютам, так или иначе происходила кровавая баня. Изо всех закоулков вылезали психи и мир сходил с ума.

Возможным исключением, как это ни странно, мог бы служить современный либерализм... но он действует тихой сапой. Очень тихой. И не запрещает верить во что бы то ни было метафизическое.

Просто в результате его действия метафизика постепенно теряет всё больше и больше значимых позиций в человеческих умах.

0

7

Французская и Октябрьская революции. Если что, моими источниками являются произведения историка Буровского, который сам руководствуется туевой хучей источников при их написании.

Тема довольно дискуссионная, но Буровский завоевал моё доверие как скрупулёзный и педантичный исследователь ещё при чтении его выкладок о иудейской культуре.

Если рассматривать эти революции отстранённо, беря в расчёт одни лишь только намерения и принимая их по номиналу, то мы имеем благородный замысел рационалистов в духе азимовского Основания — одна только идея заменить устаревшие религиозные вероучения культом «богини Разума» чего стоит. Временным культом, существующим, пока народ не дозреет до жизни без культов вообще.

Однако же, детально описанные Буровским кровавые последствия и параллельные события...

0

8

Я мимо проходил.
Механьяк молодец, пытается механику ИИ набросать.
Дарт не молодец, т.к. занимается лирикой. Лирика и информатика плохо соотносятся. Прежде чем выдвигать клевые идеи, надо хотя бы прикинуть, как вы это реализовывать будете.
К сожалению, люди в основной своей массе рассматривают разум как данность. Как будто появление разума было предопределено с момента Большого Взрыва, и вся Вселенная существует исключительно для саморазвития разума. Но Вселенная существует не для каких-то целей, а по каким-то причинам.
Если вы хотите создавать искусственный разум, то в первую очередь определите базовые понятия. То есть дайте определение разуму вообще. Я уверен, вы не сможете. Только умоляю, не пытайтесь дать определение как из учебника по философии за 10 класс, а то это будет похоже или на школьное сочинение, или на какие-нибудь устаревшие концепции семнадцатого века. Для создания разума лирика понадобится в последнюю очередь.
Нам нужны конкретные рецепты и алгоритмы. Как только вы начнете их составлять, вы поймете, что граница между разумом и его имитацией размыта. Более того, вам может показаться даже, что само это понятие не имеет практического смысла и годится только для пафосных девизов. Был ли мальчик?
P.S. Соряны, если чо. Я-то думал, сюда заходят люди, знакомые с Ф. Диком и "Электроовцами", а также с П. Уоттсом и "Ложной слепотой". Так что если вы за магию, вам это может показаться неинтересным. Но с другой стороны, вы же общаетесь в этом треде про ИИ, а значит, вам интересно. Поэтому вот немножко хардкора.

0

9

Звучит немного провокационно. Рассуждениями об иллюзорности разума сыт не будешь, требованиями схем — тоже.

Разум в зачаточном виде — способность учиться на несовершённых ошибках или искать выходы из ситуации путём моделирования ситуации в пределах себя на основе полученных и получаемых данных. Разум в завершённом виде — выросшая из этого суперпозиция суперстратегий по поиску суперстратегий для достижения тех или иных целей. Со временем проявится у любой нейросети с неограниченным количеством вычислительных ресурсов и памяти, если поставить перед ней непрерывно растущую в сложности цель.

Солярисы и безличные существа тоже могут быть разумны.

С другой стороны, есть подозрение, что те или иные носители сознания могут не обладать разумом. Распространены теории о том, что человеческий мозг способен строить новые суперстратегии лишь до того или иного возраста, например.

0

10

Да у нас тогда весь мир получается разумным. Каждый колосок. И смысл тогда разделять разумное от неразумного? Это как эйнштейновский бог. На вопрос, верит ли он в бога, Эйнштейн отвечал что-то в духе "Бог - это вся вселенная с законами физики, в такого бога я верю." Но не надо так отвечать, поскольку получается терминологическая путаница и Эйнштейн на самом деле верит во Вселенную, а не в бога. Так и с разумом. Очень неконкретный термин. То, что мы не можем понять механизм сознания, не дает нам права изобретать новые сущности.
Считается, что у человека есть разум. А еще у Соляриса есть. И у Гибсона Нейромант - это разум. А что насчет других сложных вещей? Геном - это разум? Экономика? Эволюция - это разум? Вы скажете: не, ну эволюция - это вообще не предмет, а процесс во времени. Я отвечу: а что, сознание - это разве не процесс?
Короче, я имею в виду, что в мире существует много сложных математических структур. И в пределах одной из структур формализовано понятие о себе. На формальном языке этой системы это звучит как "разум". На языке других систем это просто никак не звучит. Возмущение эфира.
Чертова логика.

0

11

Не надо настолько распыляться.

В колоске нет нейросетей, соответствующих заявленным выше требованиям. Экономика и эволюция в какой-то степени разумны. Отсутствие признаков принципиальной выделенности объекта понятия из мира не говорит о бессмысленности понятия.

Иначе строгий редукционист когда-нибудь весь словарь отправит в печку, сведя вселенную к танцу каких-нибудь протокварков.

0

12

Вообще, построение утопии невозможно по одной простой причине - человеческий фактор.

Об этой теме не очень много смысла рассуждать, не договорившись сначала, что такое "утопия". Потому что часто оказывается, что собеседники подразумевали под этим совсем разные вещи.

Французская и Октябрьская революции.

Если рассмотреть альтернативную вселенную, в которой на месте СССР существовало бы государство с другой идеологией, включающей в себя какую-либо религию, то не похоже на то, чтобы жертв в ней было меньше. Часть трагедий объясняется последствиями смены власти (из-за того, что не было нормальных кадров, набрали кого попало, в основном - отморозков, которые не умеют действовать, не поубивав всех). Часть - догоняющей модернизацией и второй мировой войной (и предшествовавшими ей конфликтами).

0

13

Место, где всем хорошо живётся, десу же! Можно ещё уточнить - хорошо всем, кто может оценить сие, и не в ущерб первоначальным желаниям.

Но ведь то, хорошо или плохо кому-то живётся - это и есть субъективная оценка.

0

14

Очень волнующий меня вопрос: чем нейронные сети лучше других механизмов?
Сложно не обращать внимание на протокварки, мы же из них сделаны. Разум не в вакууме существует, а на носителе.

Отредактировано Serpe (2015-10-27 11:12:33)

0

15

Механьяк написал(а):

Причём со временем цель сменится - как сбежать от этой работы .D В этом тоже одна из главных черт разумности.

Таки можем, и уже делаем огромные успехи, вроде как =)

Место, где всем хорошо живётся, десу же! Можно ещё уточнить - хорошо всем, кто может оценить сие, и не в ущерб первоначальным желаниям.

Поделись огромными успехами, ну ссылку там какую-нибудь. Тема интересная.

0

16

Очень волнующий меня вопрос: чем нейронные сети лучше других механизмов?

Речь не о нейросети как о чём-то блестящем и никелированном. Речь о нейросетях как об определённых структурах причинно-следственных цепочек, на чём бы они ни были реализованы. Мне казалось, что такое понимание слова «нейросеть» будет самоочевидным, — может быть, потому что я нахожусь под остаточным влиянием романа «Permutation City» Игана, где герой вначале был эмулируемой на компьютерах Интернета нейросетью, потом оказался нейросетью обычного живого человеческого мозга, а потом вовсе стал нейросетью, распределённой по всей Вселенной.

Сложно не обращать внимание на протокварки, мы же из них сделаны. Разум не в вакууме существует, а на носителе.

И что, это повод заменять слово «цикорий», «параплан» или «мораль» на тысячестраничное описание формул взаимодействия протокварков, приводящих к сложению соответствующих ассоциаций в наших мозгах?

Причём со временем цель сменится - как сбежать от этой работы .D В этом тоже одна из главных черт разумности.

Желание сменить цель — признак того, что эта цель изначально не была целью сама по себе. Впрочем, могут ли цели сложной изменчивой нейросети быть стабильными, сложными и применимыми ко всем пакетам обстоятельств — но в то же время исключающими «неверную» интерпретацию с точки зрения задавшего их — вопрос дискуссионный.

Но ведь то, хорошо или плохо кому-то живётся - это и есть субъективная оценка.

В данном случае это достаточно легко измеряется. Можно спросить...
Заметка на полях:
— общество Хаксли с лёгкостью пройдёт тест.

0

17

В данном случае это достаточно легко измеряется. Можно спросить...
Заметка на полях:
— общество Хаксли с лёгкостью пройдёт тест.

Вот я про то и говорю. Если человека накачать нетоксичным аналогом героина и соединить с аппаратом искусственного жизнеобеспечения, в котором он сможет находиться неограниченное время, то субъективно он тоже будет счастлив. Более того, даже если освободить его из этого состояния он, возможно, пожелает туда вернуться, героин же, зависимость. Нет, это не критерий.

Отредактировано Грей (2015-10-27 15:49:28)

0

18

Не,  ну как мы будем искать цикорий, если непонятно, что это такое? Есть два метода.
1. Находим неизвестный цветок и придумываем любое название. Выбор пал на "цикорий" случайно. Неизвестный цветок не был случайным, а был конкретным цветком с индивидуальными свойствами.
2. Партия сказала, что нужно открыть цветок цикорий. Если его не существовало в природе, то это не аргумент. Мы берем любой цветок и проверяем, не цикорий ли. Делаем это в течение поколений. Верим, что наши потомки таки найдут-таки это чудо, а на то, что цикорий существует только в головах, не обращаем внимания.  Кто искал - молодец.
Так вот, научный метод - первый. Нам нужно знать сущность цикория, чтобы отличать семейство цикориевых от фиалковых. Если описание цикория занимает 1000 страниц, то я сожалею, но придется делать это описание. Те, кто использует второй метод, подгонку, не описывают реальность, а фальсифицируют ее.

0

19

Глюкнехт написал(а):

Отсутствие признаков принципиальной выделенности объекта понятия из мира не говорит о бессмысленности понятия.

Как раз- таки говорит, иначе что мы определяем-то?)))

0

20

Глюкнехт написал(а):

Желание сменить цель — признак того, что эта цель изначально не была целью сама по себе.

Я надеюсь, это не цитата из Паоло Коэльо?
Я правильно понял, что у т. н. сложных систем с момента большого взрыва была какая-то истинная цель, которую мы сейчас не понимаем?
Попахивает религией.

Отредактировано Serpe (2015-10-27 20:08:06)

0

21

Не,  ну как мы будем искать цикорий, если непонятно, что это такое? Есть два метода.
1. Находим неизвестный цветок и придумываем любое название. Выбор пал на "цикорий" случайно. Неизвестный цветок не был случайным, а был конкретным цветком с индивидуальными свойствами.
2. Партия сказала, что нужно открыть цветок цикорий. Если его не существовало в природе, то это не аргумент. Мы берем любой цветок и проверяем, не цикорий ли. Делаем это в течение поколений. Верим, что наши потомки таки найдут-таки это чудо, а на то, что цикорий существует только в головах, не обращаем внимания.  Кто искал - молодец.

В нашем случае ситуация несколько иная.
Во-первых:
— нам необходимо создать цикорий.
Во-вторых:
— именуемые нами «цикорием» объекты или явления уже независимо существуют в нашей реальности.
В-третьих:
— именование это происходит в соответствии с понятием в нашей голове, выработавшимся в результате повторяющихся по некоему однообразному паттерну столкновений с явлениями некоторого рода, что само по себе — речь об однообразии паттерна — предоставляет возможность выделить порождающие паттерн явления из окружающей среды хотя бы по их взаимодействию с нами.

Таким образом, нам следует осуществлять полуинтровертивный-полуэкстровертивный reverse engineering, конструируя изначально не существовавшее в логико-математическом виде понятие по обратным следам своих чувственных впечатлений — аналогично вычислению общих светоотражательных свойств у всех предметов, которые мы при нормальном освещении и при нормальной работе зрения называем красными. При этом законченность понятия — те самые «тысячи страниц о взаимодействии протокварков» — нам начисто не нужна.

Тут уместно напомнить пару-тройку вещей:
1) абсолютное большинство из круга наших обиходных понятий не существуют в законченном логико-математическом виде. Здесь модно ссылаться на проблему кругов в словарных определениях, а то и сразу на теорему Гёделя о неполноте. Человек, пытающийся добиться законченности используемых понятий перед их применением, лишится способности ходить.
2) незаконченность понятий искупается необязательностью их применять в завершённом виде. Отсутствие однозначных и завершённых до протокваркового уровня понятий «воздуха» и «ветра» не помешало изобрести аэроплан.
3) расплывчатость границы между чем бы то ни было не равнозначна её отсутствию. На последнем обломало себе зуб не одно поколение философов и демагогов.

Иными словами:
— приходит человек и говорит, что красного не существует. Я говорю, что есть определённая электромагнитная волна, вызывающая ощущение красного цвета. Он говорит, что это всего лишь субъективное ощущение и что между предметами, которые кажутся в тех или иных условиях красными, нет почти ничего общего. Я говорю, что, во-первых, весь мир промаркирован для нас субъективными ощущениями, во-вторых, способность порождать схожие зрительные ощущения вполне может быть переведена на физикалистский язык, в-третьих, всё это так или иначе абсолютно неважно — потому что нам практически необходим способ поиска земляники в лесу и потому что имеющие у нас понятия красного цвета это позволяют.

Отсутствие признаков принципиальной выделенности объекта понятия из мира не говорит о бессмысленности понятия.

Как раз- таки говорит, иначе что мы определяем-то?)))

Ключевое слово в сказанном мною — «принципиальной». См. третий пункт из упомянутых мною выше вещей.

Я надеюсь, это не цитата из Паоло Коэльо?
Я правильно понял, что у т. н. сложных систем с момента большого взрыва была какая-то истинная цель, которую мы сейчас не понимаем?

Меня начинают тревожить некоторые неясные сомнения...
Нет, это не цитата из Коэльо, а в наличии чётких стабильных целей у эволюционно саморазвившихся за миллионы лет систем я не уверен. Нет нужды говорить об инстинкте выживания или размножения — каждый знает имена тех или иных «систем», эти инстинкты перешагнувших.

0

22

Только Гедель, только хардкор.
А вообще меня больше практическая сторона интересует. Я, может быть, хочу дома сконструировать небольшой разум. Мне нужно знать, как он работает, но все мне говорят что-то там про творчество, про осознание... Я должен взять двести грамм творчества, триста осознания и сварить это в гносеологии? 
Вот отличный вопрос из литературы, из "Ложной слепоты". Болтуны разумны? Это ведь даже не полноценные представители титульной цивилизации, а что-то вроде дронов (НАВЕРНОЕ). Тем не менее, они принимают решения. Хотя если показателем разумности будет только способность обрабатывать информацию, то тогда да, они даже сверхразумны. Но в мире много информационных систем, нам что, каждую считать разумной?
Можно с технической (пригодной для работы) точностью определить многие понятия, не углубляясь в поиски точнейшей границы (это даже теоретически невозможно из-за принципа неопределенности в квантовом мире), но понятие разума вообще никак не определено. Созданием разума будут заниматься физики и математики, поэтому меня волнуют физические и математические принципы.

0

23

Я, может быть, хочу дома сконструировать небольшой разум. Мне нужно знать, как он работает, но все мне говорят что-то там про творчество, про осознание...

Это разговор с воображаемыми собеседниками? Хотя, если так действуют следы укусов представителей одухотворённого правополушарного крыла — дело другое, но зачем тащить это сюда?

Хотя если показателем разумности будет только способность обрабатывать информацию, то тогда да, они даже сверхразумны. Но в мире много информационных систем, нам что, каждую считать разумной?

При определённой трактовке термина «информация» любой существующий объект является информационной системой и как-то обрабатывает информацию. Но разум — это не любая информационная система, а лишь способная к выбору наилучшей стратегии достижения цели путём моделирования ситуации и сверки моделей с действительностью, а также содержащая в себе произвольно большое количество выработанных таким путём стратегий — включая и стратегии по выработке стратегий с рекурсией неограниченного уровня.

И не надо смешивать понятия разума и сознания. Хотя если целью ставится получение искусственного разума с сознанием — ну что ж, так и скажите.

Можно с технической (пригодной для работы) точностью определить многие понятия, не углубляясь в поиски точнейшей границы (это даже теоретически невозможно из-за принципа неопределенности в квантовом мире), но понятие разума вообще никак не определено. Созданием разума будут заниматься физики и математики, поэтому меня волнуют физические и математические принципы.

Сильно подозреваю, что скорее математики — если только в разуме не обнаружится «квантового волшебства».

А принципы...

Уже современные технические нейросети способны на многое странными путями — вопрос в недостатке времени и вычислительных мощностей для экспериментов. Хотя, если сравнивать с фантазиями древних фантастов о выпаивании каждого узелка нового разума с паяльником и канифолью, это скорее ближе к эмбриологии, чем к конструированию.

Это, как бы сказать поделикатней, слишком долгая и утомительная задача для разума уровня А — вручную встраивать в другой разум-А каждую из собственных стратегий и подстратегий поведения, даже если бы мы целиком осознавали их.

По этой же причине затруднительно представить в кратком вразумительном размере схему такого разума.

Ввиду тонкостей наших субъективных реакций «разум» для нас — система, способная самостоятельно решать задачи, которые самостоятельно решаем мы, включая и задачу живого разговора. В общем плане техзадания можно определить разум как достигшую этих навыков через отбор необходимых стратегий и надстратегий нейросеть. Но перечислять все тысячи и миллионы необходимых для этого алгоритмов — увольте.

0

24

Глюкнехт написал(а):

В общем плане техзадания можно определить разум как достигшую этих навыков через отбор необходимых стратегий и надстратегий нейросеть.

Если поставить вопросительный знак в конце, будет правильней. Потому что мы еще не уверены, можно ли эвристику редуцировать до перебора вариантов и стратегий. Однако, если все-таки можно, то тогда человеческий разум - просто сложная информационная система, равноправная с другими системами, которые мы считаем неразумными. Если, конечно, с возрастанием сложности не происходит какого-нибудь фазового перехода, рождающего принципиально иную сущность, но это еще надо обнаружить.
А вообще, сознание - термин из психологии. Разум - из философии. А наша задача в области математики, и вопрос, выходит, вообще не сформулирован. Ну нету в математике слова "разум". Не-ту. Тем не менее, ИИ будут делать не психологи и не философы, а бедные математики, которым невозможно сформулировать задачу. Я, конечно, извиняюсь, но что же тогда они будут конструировать?

Отредактировано Serpe (2015-10-29 11:45:00)

0

25

Потому что мы еще не уверены, можно ли эвристику редуцировать до перебора вариантов и стратегий.

Во-первых, не эвристику, а то, что в конечном счёте рождает её.

Во-вторых, здесь мне почему-то начинают вспоминаться восклицания не к ночи помянутых креационистов. «Как вы можете верить, что вся сложность жизни вокруг нас, колоссальная неубавимость слепого пятна или гениальность аппендикса, могла быть рождена Слепым Случаем?» Отождествление эволюции и рэндома — не то, что я ожидал тут увидеть.

Если, конечно, с возрастанием сложности не происходит какого-нибудь фазового перехода, рождающего принципиально иную сущность, но это еще надо обнаружить.

Например, квантовое волшебство?

Так я не понял. Вы желаете уничтожить абсолютно все понятия, оставив только Дао или Вселенскую Волновую Функцию? Во вселенной на текущем уровне наших представлений не видно ничего, что качественно, субстанциально отличалось бы от остальных объектов.

Тем не менее, ИИ будут делать не психологи и не философы, а бедные математики, которым невозможно сформулировать задачу. Я, конечно, извиняюсь, но что же тогда они будут конструировать?

Я бы с куда большим интересом посмотрел, как они будут конструировать разум под Вашим руководством. «Разум — это просто такая информационная система, не отличающаяся качественно от других. Ну, сделайте калькулятор, что ли».

Мои же определения разума основаны на количественных различиях и я их уже упомянул.

0

26

1. Природа эвристики на данный момент неизвестна.
2. Креационисты и дао не интересуют.
3. Не обязательно квантовое волшебство (не понял, причем тут оно).
4.Нет, нам нужны понятия.

Глюкнехт написал(а):

Я бы с куда большим интересом посмотрел, как они будут конструировать разум под Вашим руководством.

И я не знаю, как сделать разум. И не смогу узнать, потому что не знаю, что за предмет я должен делать. Я сильно подозреваю, что поиски разума - это все равно что поиски Святого Духа (аминь), т.е. нечто такое, что не попадает в принцип фальсифицируемости. Соответственно, научный метод неприменим.

0

27

И я не знаю, как сделать разум. И не смогу узнать, потому что не знаю, что за предмет я должен делать.

Чувствуется школа советских инженеров по изобретению отмазок.
Правильное объяснение: «Потому что те определения предмета, которые мне дали, меня не устраивают, а те определения предмета, которые бы меня устроили, в принципе нельзя дать ни на какое высокоуровневое понятие. И, хотя я в общем-то понимаю, каким должно быть внешнее поведение целевого объекта и как подобные объекты возникли в ходе эволюции, за разработку его я не возьмусь всё равно — пока задачу не переформулируют так, чтобы её формулировка соответствовала моим эстетическим вкусам, моим идеологическим взглядам на стандарты формулировки понятий или чему-то ещё».

Я сильно подозреваю, что поиски разума - это все равно что поиски Святого Духа (аминь), т.е. нечто такое, что не попадает в принцип фальсифицируемости. Соответственно, научный метод неприменим.

Налицо мышление кругами и попытка насильственно протолкнуть одну и ту же идею, красивая хлёсткость которой, вероятно, некогда сильно впилась в память. При том, что подобного рода подкаты «типа я Станиславский» применимы к любой сложной концепции.

0

28

Глюкнехт написал(а):

Налицо мышление ...

Я не понял- мы таки используем научный метод или нет? Эзопов язык, ей-бо.
Пока не определимся - все вышенаписанное считать демагогией.

0

29

Да ну это понятно. Я же пытаюсь сказать, что понятие "разум" родом из философии, а не из точных наук. Это главное, на что я обращаю внимание. Поэтому громкие заявления о поиске внеземного разума (ну или о создании искусственного) вызывают вопросы. Ведь не философы этим занимаются. Похоже на спекуляцию.
Мне интересно: если сделать полную имитацию человеческого разума - это будет разум или имитация? Это вопрос из Дика. Ну, он его задал уже давно, и я думал, что тысячу раз его повторять - уже моветон, все в курсе, что такой вопрос есть. Отталкиваясь  от него, приходишь к пониманию, что нужна точная формулировка технической части. Но ее нет. Если нет задачи - откуда взяться ответу? В условии задачи настолько большой разброс параметров, что можно получить только неопределенный результат, и не факт, что в этой области не будет противоречащих др. др. вариантов.

0

30

Что означает «полная имитация разума» в данном случае?

Само слово «имитация» как бы подразумевает «Я хочу сделать нечто, что разумом не будет являться, хотя и будет выглядеть так». Но тогда что означает прикреплённое к нему прилагательное «полная» — и не противоречивы ли эти условия?

Не говоря уже о том, что сам вопрос этот неясностью своих формулировок явно относится к философскому арсеналу. Дик, к слову, являлся скорее представителем гуманитарного крыла, так что упоминание его смотрится тут необычно. Определитесь уж, может ли гуманитарный подход быть полезен и применим тут — поскольку вопрос Дика именно из этой сферы.

Я лично, впрочем, ничего против этого подхода не имею. Ввиду возрастающей сложности объекта изучения на стыке перехода от естественных наук к гуманитарным — абстрактизация понятий неизбежна. Наука становится более стохастичной, что и по сию пору вызывает нешуточное смятение у медитирующих на точно просчитанное столкновение двух ньютоновских шариков-атомов в абсолютной пустоте и видящих в этом идеал научного метода.

Теперь по теме:
— отсутствие законченного логико-математического вида у большинства наших понятий, повторимся, есть вещь неизбежная;
— это не препятствует использованию упомянутых понятий, в том числе и использованию логико-математическому, примером чего может служить любое применение логики или математики в гуманитарных задачах;
— техзадание, сформулированное не на логико-математическом языке, тем не менее может быть выполнено, если уровень понимания этого понятия примерно одинаков у заказчика и у исполнителя.

Стоило бы также задним числом добавить:
— требование точных определений к явлению, сущность которого неизучена до конца, вещь совершенно некорректная. Можем ли мы ориентировочно, исходя из изученных нами косвенных признаков жизнедеятельности Соляриса, попытаться осуществить поиск других солярисов в небесах или даже вырастить в пробирке свой? Можем. Должны ли мы требовать точных определений Солярису, прежде чем взяться за работу? Не обязательно. Если некие обстоятельства заставляют нас предположить, что от иных солярисов в небесах может исходить угроза, то лучше нам узнать об их существовании побыстрее, не дожидаясь полной формализации понятия «Солярис».

Эта одна из черт разума — способность работать с неопределённостью и недосказанностью. Быть может, в какой-то степени европейского разума — американские индейцы не могли видеть чужих кораблей у своих берегов, поскольку в их мозгу ещё не было соответствующего понятия. Хороший укол для самолюбия тем, кто полагает, что любое понятие нужно формализовать, прежде чем пользоваться им.

0


Вы здесь » Форум проекта WikiTropes.RU » Кафе "За жизнь" » Искусственный интеллект