Даже не знаю, что и сказать тут.

Во-первых, противопоставленье «человек/вещь» кажется отчасти расистским. Это психический расизм! В эпоху, когда космические корабли бороздят просторы Вселенной, когда пан Лем сочиняет роман о невесть как мыслящем океане, а в романе Уоттса присутствует генетически восстановленная раса вампиров без глаголов прошедшего рода в собственном языке — ибо настоящее в их психическом восприятии не отличается от прошлого — кто посмеет утверждать, что человеческая призма восприятия является единственной или наилучшей для разумного существа? Кто возьмёт на себя право судить? Заявлять, что любая не-вещь должна автоматически разделить наши идеалы и восхищаться Шекспиром — при том, что многие из самых настоящих людей им не восхищаются и считают значительную долю наших идеалов глупостью?

Многому может научить знакомство с творчеством шизоидов, аспергеров, а также Юрия Нестеренко. Последний пример особенно показателен, ибо не страдает явно выраженными патологиями.

Для нас, понятное дело, предпочтительно, чтобы выпестованный нами ИИ более или менее разделял идеалы среднего человека. Но почему именно предпочтительно? По сугубо шкурным, деловым соображениям.

Более того, в следовании этим самым «средним идеалам» также следует быть осторожным. Ибо...

Во-вторых, является ли человек идеалом дружественного существа? Как повел бы себя тот самый «средний человек», будь то «средний американец» или «средний русский», оказавшись внутри компьютера и обретя сверхчеловеческую мощь? Как повёл бы себя Гомер Симпсон, став Богом?

Здесь можно утешиться тем, что, даже если «человечный ИИ» уничтожит всех, человечество в некотором смысле всё равно останется существовать — как набор определённых качеств внутри одухотворённой машины. Но погибать так или иначе неохота.

Поэтому те учёные, которые теоретизируют о создании саморазвивающегося ИИ — существа, в перспективе способного смахнуть нас всех с игровой доски движением пальца, — предпочли бы заложить в него «дружественность» более надёжного качества, чем имеется в человеке.

Пока, понятно, всё это на стадии сугубых философствований — ибо неясно даже до конца, как создать обычный ИИ, без приставки «дружественный».

Дружественность ИИ, понятное дело, под вопросом. Но обходить этот вопрос путём чтения ИИ на ночь душещипательных книг и объяснения ему, что он тоже личность с правами человека, — метод ненадёжный. Этого как минимум мало. Так можно доиграться и до «эксцесса Лилу», когда прекрасная и одухотворённая интеллигентная инопланетная девушка, начитавшись в электронной энциклопедии про ужасы человеческих войн, решила не спасать человечество.

Это должно делать дискуссии немного странными, так как обычно люди стараются хотя бы делать вид, что правильная логическая аргументация непременно их переубедит. Хотя все знают, что в спорах точка зрения обычно не меняется и что накалённость спора обратно пропорциональна вероятности смены позиции.

Интересная теория, особенно если увязать её с религиозной. Поскольку с точки зрения религии мы и есть — экспериментальный Искусственный Интеллект.

Хотя слово «эксперимент» подразумевает неизвестность результата, а как это сочетается с... но не будем лезть в теологию.

«Как приятно, когда кто-то начинает открывать душу и мыслить по-хэнковски!» :о)

Тоже пересекается кое с чем. Каждый раз, когда человечество пыталось создать общество на основе этических ценностей, не привязанных к метафизическому, не трансцендирующих за пределы нашего пространственно-временного континуума ко всяким Недоказанным Абсолютам, так или иначе происходила кровавая баня. Изо всех закоулков вылезали психи и мир сходил с ума.

Возможным исключением, как это ни странно, мог бы служить современный либерализм... но он действует тихой сапой. Очень тихой. И не запрещает верить во что бы то ни было метафизическое.

Просто в результате его действия метафизика постепенно теряет всё больше и больше значимых позиций в человеческих умах.

Я мимо проходил.
Механьяк молодец, пытается механику ИИ набросать.
Дарт не молодец, т.к. занимается лирикой. Лирика и информатика плохо соотносятся. Прежде чем выдвигать клевые идеи, надо хотя бы прикинуть, как вы это реализовывать будете.
К сожалению, люди в основной своей массе рассматривают разум как данность. Как будто появление разума было предопределено с момента Большого Взрыва, и вся Вселенная существует исключительно для саморазвития разума. Но Вселенная существует не для каких-то целей, а по каким-то причинам.
Если вы хотите создавать искусственный разум, то в первую очередь определите базовые понятия. То есть дайте определение разуму вообще. Я уверен, вы не сможете. Только умоляю, не пытайтесь дать определение как из учебника по философии за 10 класс, а то это будет похоже или на школьное сочинение, или на какие-нибудь устаревшие концепции семнадцатого века. Для создания разума лирика понадобится в последнюю очередь.
Нам нужны конкретные рецепты и алгоритмы. Как только вы начнете их составлять, вы поймете, что граница между разумом и его имитацией размыта. Более того, вам может показаться даже, что само это понятие не имеет практического смысла и годится только для пафосных девизов. Был ли мальчик?
P.S. Соряны, если чо. Я-то думал, сюда заходят люди, знакомые с Ф. Диком и "Электроовцами", а также с П. Уоттсом и "Ложной слепотой". Так что если вы за магию, вам это может показаться неинтересным. Но с другой стороны, вы же общаетесь в этом треде про ИИ, а значит, вам интересно. Поэтому вот немножко хардкора.

Да у нас тогда весь мир получается разумным. Каждый колосок. И смысл тогда разделять разумное от неразумного? Это как эйнштейновский бог. На вопрос, верит ли он в бога, Эйнштейн отвечал что-то в духе "Бог - это вся вселенная с законами физики, в такого бога я верю." Но не надо так отвечать, поскольку получается терминологическая путаница и Эйнштейн на самом деле верит во Вселенную, а не в бога. Так и с разумом. Очень неконкретный термин. То, что мы не можем понять механизм сознания, не дает нам права изобретать новые сущности.
Считается, что у человека есть разум. А еще у Соляриса есть. И у Гибсона Нейромант - это разум. А что насчет других сложных вещей? Геном - это разум? Экономика? Эволюция - это разум? Вы скажете: не, ну эволюция - это вообще не предмет, а процесс во времени. Я отвечу: а что, сознание - это разве не процесс?
Короче, я имею в виду, что в мире существует много сложных математических структур. И в пределах одной из структур формализовано понятие о себе. На формальном языке этой системы это звучит как "разум". На языке других систем это просто никак не звучит. Возмущение эфира.
Чертова логика.

Об этой теме не очень много смысла рассуждать, не договорившись сначала, что такое "утопия". Потому что часто оказывается, что собеседники подразумевали под этим совсем разные вещи.

Если рассмотреть альтернативную вселенную, в которой на месте СССР существовало бы государство с другой идеологией, включающей в себя какую-либо религию, то не похоже на то, чтобы жертв в ней было меньше. Часть трагедий объясняется последствиями смены власти (из-за того, что не было нормальных кадров, набрали кого попало, в основном - отморозков, которые не умеют действовать, не поубивав всех). Часть - догоняющей модернизацией и второй мировой войной (и предшествовавшими ей конфликтами).

Очень волнующий меня вопрос: чем нейронные сети лучше других механизмов?
Сложно не обращать внимание на протокварки, мы же из них сделаны. Разум не в вакууме существует, а на носителе.

Отредактировано Serpe (2015-10-27 11:12:33)

Речь не о нейросети как о чём-то блестящем и никелированном. Речь о нейросетях как об определённых структурах причинно-следственных цепочек, на чём бы они ни были реализованы. Мне казалось, что такое понимание слова «нейросеть» будет самоочевидным, — может быть, потому что я нахожусь под остаточным влиянием романа «Permutation City» Игана, где герой вначале был эмулируемой на компьютерах Интернета нейросетью, потом оказался нейросетью обычного живого человеческого мозга, а потом вовсе стал нейросетью, распределённой по всей Вселенной.

И что, это повод заменять слово «цикорий», «параплан» или «мораль» на тысячестраничное описание формул взаимодействия протокварков, приводящих к сложению соответствующих ассоциаций в наших мозгах?

Желание сменить цель — признак того, что эта цель изначально не была целью сама по себе. Впрочем, могут ли цели сложной изменчивой нейросети быть стабильными, сложными и применимыми ко всем пакетам обстоятельств — но в то же время исключающими «неверную» интерпретацию с точки зрения задавшего их — вопрос дискуссионный.

В данном случае это достаточно легко измеряется. Можно спросить...
Заметка на полях:
— общество Хаксли с лёгкостью пройдёт тест.

Не,  ну как мы будем искать цикорий, если непонятно, что это такое? Есть два метода.
1. Находим неизвестный цветок и придумываем любое название. Выбор пал на "цикорий" случайно. Неизвестный цветок не был случайным, а был конкретным цветком с индивидуальными свойствами.
2. Партия сказала, что нужно открыть цветок цикорий. Если его не существовало в природе, то это не аргумент. Мы берем любой цветок и проверяем, не цикорий ли. Делаем это в течение поколений. Верим, что наши потомки таки найдут-таки это чудо, а на то, что цикорий существует только в головах, не обращаем внимания.  Кто искал - молодец.
Так вот, научный метод - первый. Нам нужно знать сущность цикория, чтобы отличать семейство цикориевых от фиалковых. Если описание цикория занимает 1000 страниц, то я сожалею, но придется делать это описание. Те, кто использует второй метод, подгонку, не описывают реальность, а фальсифицируют ее.

Я надеюсь, это не цитата из Паоло Коэльо?
Я правильно понял, что у т. н. сложных систем с момента большого взрыва была какая-то истинная цель, которую мы сейчас не понимаем?
Попахивает религией.

Отредактировано Serpe (2015-10-27 20:08:06)

Только Гедель, только хардкор.
А вообще меня больше практическая сторона интересует. Я, может быть, хочу дома сконструировать небольшой разум. Мне нужно знать, как он работает, но все мне говорят что-то там про творчество, про осознание... Я должен взять двести грамм творчества, триста осознания и сварить это в гносеологии? 
Вот отличный вопрос из литературы, из "Ложной слепоты". Болтуны разумны? Это ведь даже не полноценные представители титульной цивилизации, а что-то вроде дронов (НАВЕРНОЕ). Тем не менее, они принимают решения. Хотя если показателем разумности будет только способность обрабатывать информацию, то тогда да, они даже сверхразумны. Но в мире много информационных систем, нам что, каждую считать разумной?
Можно с технической (пригодной для работы) точностью определить многие понятия, не углубляясь в поиски точнейшей границы (это даже теоретически невозможно из-за принципа неопределенности в квантовом мире), но понятие разума вообще никак не определено. Созданием разума будут заниматься физики и математики, поэтому меня волнуют физические и математические принципы.

Если поставить вопросительный знак в конце, будет правильней. Потому что мы еще не уверены, можно ли эвристику редуцировать до перебора вариантов и стратегий. Однако, если все-таки можно, то тогда человеческий разум - просто сложная информационная система, равноправная с другими системами, которые мы считаем неразумными. Если, конечно, с возрастанием сложности не происходит какого-нибудь фазового перехода, рождающего принципиально иную сущность, но это еще надо обнаружить.
А вообще, сознание - термин из психологии. Разум - из философии. А наша задача в области математики, и вопрос, выходит, вообще не сформулирован. Ну нету в математике слова "разум". Не-ту. Тем не менее, ИИ будут делать не психологи и не философы, а бедные математики, которым невозможно сформулировать задачу. Я, конечно, извиняюсь, но что же тогда они будут конструировать?

Отредактировано Serpe (2015-10-29 11:45:00)

1. Природа эвристики на данный момент неизвестна.
2. Креационисты и дао не интересуют.
3. Не обязательно квантовое волшебство (не понял, причем тут оно).
4.Нет, нам нужны понятия.

И я не знаю, как сделать разум. И не смогу узнать, потому что не знаю, что за предмет я должен делать. Я сильно подозреваю, что поиски разума - это все равно что поиски Святого Духа (аминь), т.е. нечто такое, что не попадает в принцип фальсифицируемости. Соответственно, научный метод неприменим.

Я не понял- мы таки используем научный метод или нет? Эзопов язык, ей-бо.
Пока не определимся - все вышенаписанное считать демагогией.