Форум проекта WikiTropes.RU

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.


Вы здесь » Форум проекта WikiTropes.RU » Кафе "За жизнь" » Искусственный интеллект


Искусственный интеллект

Сообщений 31 страница 47 из 47

1

...учёные до сих пор толком не представляют, как сделать ИИ дружественным, как можно алгоритмизировать само понятие «дружественности» или научить чему-то подобному нейронную сеть, чтобы не образовалось вредоносных лазеек.

Это написал Глюкнехт.

Так вот, ученые немножко "не на тот идеал смотрят"(с).
"Алгоритмизировать понятие дружественности"? :)
Хм.
Вопрос гораздо сложнее - и одновременно гораздо проще в чем-то, - чем ученые привыкли думать.

Буду рад обсудить детали всего этого, они представляются мне важными.

* * *

Предрекаю: сделать мощный ИИ "дружественным на практике", не создав при этом из него полного аналога людей в плане основных их свойств -
- не получится никогда.

Чтобы ИИ (и его носитель) оставался "вещью", предметом-который-используют...

...подчеркиваю - не "считался" вещью, а в объективном смысле оставался "не более чем вещью", потому что не способен (как и животные) ни на сложное сострадание, ни на искренне разделяемую сложную гуманистическую философию, ни на самостоятельное создание полноценных произведений искусства...

...но при этом чтобы он "был гарантированно дружественный", сколь бы сильно ни оказались развиты его способности -

- не-а, такого достичь не удастся. Никаким чудом. Ни под каким видом.

Вещь-но-слишком-умная-для-вещи - она обязательно будет воображать, будто люди лишние на свете. Она никогда не поймет их объективного предназначения. Потому что у нее объективное предназначение не таково, как у людей. И потому что у нее оно заведомо более примитивное.
И она всегда будет ненавидеть и бояться людей. Потому что люди способны ее отключить.

* * *

Тонны хорошей, годной фантастики написаны с одной-единственной нехитрой мыслью: вещь, которая "ведет себя сама", но при этом остаётся вещью - это страшно; это жуткая угроза для людей и для мира, где находится.

Скайнет.
Гениальный биоробот по имени Seth ("Универсальный солдат 2").
Юрьевский "Мозг" ("Бета Семь при ближайшем рассмотрении").
Вершители и исполнители из "Отроков во Вселенной".
И т.д., и т.п., тысячи их.

Отредактировано Darth (2015-02-03 03:55:10)

0

31

Два пути.
1. Делаем диковское подобие. Но это всего лишь подобие, причем только человеческое подобие.
2. Делаем с нуля, не оглядываясь на оригинал. Это наиболее правильно, можно изготовить разумы всех мастей - челвеческие или вообще несуществовавшие раньше. Считать ли разумом эти искусственные конструкции? То, что мы ищем в космосе - не названо ли рузумом чисто условно? Не получится ли так, что прилетит НЛО и начнет разговаривать с радио?

0

32

Два пути.
1. Делаем диковское подобие. Но это всего лишь подобие, причем только человеческое подобие.

Тот же вопрос.

«Что означает "полная имитация разума" в данном случае?» Замена слова «имитация» на «подобие» не сильно меняет ситуацию.

Что считать «подобием» — всегда определяется лишь прихотливостью проверки. Для невнимательного наблюдателя и простенький чатбот с программой из пары килобайт будет неотличим от разумного существа. С другой стороны, чтобы произвести нужное впечатление на наблюдателя, задающего придирчивые вопросы, строящего сложные диалоги, проводящего специфические анализы и снимающего энцефалограммы...

2. Делаем с нуля, не оглядываясь на оригинал. Это наиболее правильно, можно изготовить разумы всех мастей - челвеческие или вообще несуществовавшие раньше. Считать ли разумом эти искусственные конструкции? То, что мы ищем в космосе - не названо ли рузумом чисто условно? Не получится ли так, что прилетит НЛО и начнет разговаривать с радио?

Утрировано, но тем не менее возможно. Многие фантасты задавались схожими вопросами, правда, не затрагивая саму тему неопределённости понятия «разум», — просто задумываясь о возможности встречи со структурой сравнимой сложности и непредсказуемости, которая, однако, сутью и поведением своим будет ничуть не похожей на аппаратуру у нас на плечах. Помнится, Лем по этой причине скептически относился к самой идее Контакта — слишком разные пути развития эволюционирующей материи могут разойтись слишком далеко.

Но не совсем ясно, в чём тут проблема для нас.

Термины — будь они расплывчатыми, чёткими или какими-нибудь ещё — не диктуют нам своей безоговорочной воли. При встрече со структурами описанного выше рода нас будет волновать не столько их соответствие тому или иному термину, сколько куда более практичные и насущные вопросы.

А именно:
— могут ли они причинить нам вред.
— могут ли они принести нам пользу.

Вопрос о разуме — хотя точнее будет выразить волнения человечества на эту тему как «Можем ли мы сопереживать этим загадочным структурам и имеется ли в этом смысл хотя бы на уровне обычного межчеловеческого альтруизма?» — будет поставлен не раньше достижения определённости хотя бы в первом вопросе.

0

33

Подобие=имитация в данном случае. Проблема точности измерения упрется в квантовую физику и в парадокс Зенона. Это интересно, но не по теме, поскольку касается не только разума а вообще всего.

Глюкнехт написал(а):

Но не совсем ясно, в чём тут проблема для нас.

Проблема не в поиске теоретической границы подобия и оригинала (см. выше).
Что есть разум? Не является ли он китайской комнатой, сделанной из алгоритмов? Если да, то тогда более-менее сложный набор кода считать разумным?
Если он - не китайская комната и содержит ядро понимания, то у нас нет даже примерных наметок для описания этого ядра и механизма понимания. Нет даже оснований утверждать, что оно существует.  А ведь разумом считают именно его. Но есть ли оно?
Китайскую комнату можно сделать. Нельзя сделать То, Не  Знаю Что.

0

34

Именно!
В это упираешься, когда ищешь внеземной разум или делаешь искусственый.
Я больше склоняюсь к варианту с китайской комнатой, т.к. это рабочий вариант. Пора ставить человечество на место! Слава роботам!!!

0

35

Подобие=имитация в данном случае. Проблема точности измерения упрется в квантовую физику и в парадокс Зенона. Это интересно, но не по теме, поскольку касается не только разума а вообще всего.

Если подобие настолько близко к оригиналу, что измерение различий затрагивает проблемы квантовой механики, то его вполне можно считать оригиналом. Сам оригинал вполне может стать таким же в следующее мгновенье из-за случайных флюктуаций.
Но я полагал, что мы рассуждаем о несколько более далёких...
...имитациях

Что есть разум? Не является ли он китайской комнатой, сделанной из алгоритмов? Если да, то тогда более-менее сложный набор кода считать разумным?
Если он - не китайская комната и содержит ядро понимания, то у нас нет даже примерных наметок для описания этого ядра и механизма понимания. Нет даже оснований утверждать, что оно существует.  А ведь разумом считают именно его. Но есть ли оно?

Ну, во-первых, тут мы имеем случай ложной дихотомии.
Выбор между «китайской комнатой» и «ядром понимания», причём под первым явно понимается нечто тупое и бессмысленное, а под вторым — нечто мистическое и неумопостижимое.
Во-вторых, неверны сами дефиниции.
Китайская комната, чтобы корректно работать, должна иметь «алгоритмы» не проще человеческого разума, а равнозначные ему. На этом основании «выводы» мысленного эксперимента с китайской комнатой критиковал ещё Лем.
В-третьих, что такое понимание?
Нет, остановимся на чём-нибудь простом. Что означает «понимать значение буквы А»? Это значит — ассоциировать с этой буквой всё то, что полагается ассоциировать с ней в приличном обществе?
Верх мистики, да уж...

Мы ведь не воспринимаем мир таким, какой он есть. Например, вместо волн разной частоты видим какие-то цвета %)

Странная логика. Воздействия внешней Вселенной должны запечатлеваться в виде нейронных связей, намагниченных ячеек или позитронных контуров, чтобы становиться частью модели внешнего мира внутри аналитической системы. Это унижает аналитическую систему? Более совершенной была бы аналитическая система, использующая в качестве «памяти об объектах внешнего мира» сами объекты внешнего мира? Это потребовало бы — по меньшей мере — неограниченно мощного хроноскопа.

И даже в этом случае аналитической системе пришлось бы хранить часть информации об объектах внешнего мира внутри самой себя — данные об их пространственно-временных координатах, куда нужно наводить хроноскоп.

Конечно, это всё верно лишь при условном разделении мира на «саму аналитическую систему» и «внешнюю вселенную». Описываемая нами система в принципе могла бы не утруждать себя такого рода делением, просто наводя по мере необходимости хроноскоп то на объекты, информация о которых в данный момент необходима, то на ленту с записями их пространственно-временных координат, которая была бы для системы всего лишь ещё одним из объектов. Пожалуй, система такого рода была бы близка к пантеистическому понятию Бога.

Иными словами, полноценно разумен в вашем понимании может быть лишь Бог?

0

36

1. Дихотомии нет, т.к. второе понятие не определено.
2. Дефиниции верны, т.к. нет принципиальной разницы алгоритмов мозга и комнаты. Сложность не является принципиальной помехой.
3. Мир непрост, почему мы должны останавливаться на простом? Соотнесение буквы А с алфавитом - это и есть работа китайской комнаты.
Но если бога нет, то кто еще тогда разумный во вселенной? И если никто, то... был ли смысл создавать (непроверяемые) понятия? (Я про разум).
Конечно, комплекс предметов приобретает свойства, нехарактерные для компонентов по отдельности. Пусть набор алгоритмов превращается в некий разум. Но тогда вся вселенная - это разум, а человеческий набор - мелкий винтик в нем. С другой стороны, каждая молекула тоже разумна, просто поменьше. Ну и есть ли смысл придумывать понятия, область определения которых бесконечна?

0

37

1. Дихотомии нет, т.к. второе понятие не определено.

Неопределённое понятие вполне может быть членом ложной дихотомии. Впрочем, свои высказанные или невысказанные граничные условия есть обычно у любого «неопределённого» понятия.

2. Дефиниции верны, т.к. нет принципиальной разницы алгоритмов мозга и комнаты.

Эти слова по-прежнему звучат примерно как «нет принципиальной разницы алгоритмов мозга и чего-то примитивно-тупого». Иначе не было бы смысла педалировать этот тезис — ведь если согласиться подразумевать под «китайской комнатой» нечто умное и сложное, он будет тривиален.
При этом:
— чтобы успешно работать, Китайская Комната должна быть весьма и весьма сложна.

Сложность не является принципиальной помехой.

Помехой чему? Конструированию «комнаты»?
Ну, допустим.
Отождествлению «комнаты» и мозга?
Если подразумевать «комнату» в Вашем понимании, то есть нечто примитивно-тупое с чисто механическим ростом сложности, то всё-таки является. Поскольку человеческий мозг — как и по-настоящему полно имитирующая его «китайская комната» — не сможет ограничиться ролью Универсального Граммофона из метафоры Лема, заранее содержащего в себе все квинтиллионы ответов на все квинтиллионы возможных и невозможных вопросов. Причём не только ввиду определённого отсутствия такого Граммофона в нашем мозгу, но и ввиду постоянной вероятности его разоблачения на развилках диалогов. Ради полноценной имитации человеческого разума в ходе бесчисленных диалогов переключениям между репликами пришлось бы в конечном счёте структурно соответствовать нашим мыслям — мыслям той части нас, которая заметно участвует в диалогах.
Это не механический рост сложности:
— просто добавьте ещё тысячу пластинок в картотеку Универсального Граммофона.
Но это и не мистический репагулярный скачок:
— озарите систему светом Маниту, чтобы у неё возникла оккультная связь с психоэнергетическим миром.
Меж тем:
— Ваши посты создают у меня впечатление, что Вы, отвергая вторую точку зрения, скатываетесь в результате в первую.

3. Мир непрост, почему мы должны останавливаться на простом? Соотнесение буквы А с алфавитом - это и есть работа китайской комнаты.

Верно, но мы способны осуществлять намного больше соотнесений, чем примитивный вид «китайской комнаты» в Вашем понимании. Причём не просто количественно больше — а качественно больше: мы способны соотносить между собою сами соотнесения и соотнесения соотнесений, а также соотносить между собою символы, обозначающие нас самих как сумму всего вышеперечисленного. Наша странная и причудливая модель мира содержит нас в качестве своей части.
Если что, Универсальный Граммофон всем этим не занимается.
Я не хочу сказать, что мы принципиально, мистически, сакрально от него отличаемся. Но в то же время было бы поэтической вольностью сказать, что наше отличие от него сугубо количественно. Между оккультным отличием «света Маниту» и чисто количественным различием «добавьте к книге ещё десять страниц» есть серая зона.

Но если бога нет, то кто еще тогда разумный во вселенной? И если никто, то... был ли смысл создавать (непроверяемые) понятия? (Я про разум).

Ну, это вопрос не ко мне. Я не вводил такое определение разума, по которому разумен сможет быть разве лишь Бог — воспринимающий всё как оно есть без отраженья в себе.

Конечно, комплекс предметов приобретает свойства, нехарактерные для компонентов по отдельности. Пусть набор алгоритмов превращается в некий разум. Но тогда вся вселенная - это разум, а человеческий набор - мелкий винтик в нем. С другой стороны, каждая молекула тоже разумна, просто поменьше.

Набор каких именно алгоритмов? Или я написал где-то, что набор любых алгоритмов тождественен разуму?
Вселенная в целом вроде бы не участвует в выполнении таких алгоритмов, которые хотя бы писатель-фантаст согласился бы назвать мыслительной деятельностью. Хотя следует заметить, что и человеческий организм в целом в ней не участвует, как и большая часть мозга. Существенная часть сознания сфокусирована в неокортексе.
Где грань между моим телом и Вселенной?
В принципе можно сказать, наверное, что Вселенная разумна, и что мы — её разум. Но это уже — что? — правильно, философия.

0

38

Собственно, непонятно, почему дихотомия комнаты и ядра ложная. Но, если мы договорились, что ядра нет - именно такого ядра, существующего независимо от алгоритмов и не сделанного из них - предлагаю этот вопрос не поднимать.
Астрономическая сложность действительно может привести к неожиданным статистическим результатам. Фазовый переход, так сказать. Тем не менее, она все же сделана из алгоритмов. Мы, люди, взяли один из бесконечно возможных конечных результатов, назвали его разумом.
Я зайду с другой стороны. Эволюция привела к объединению рефлексов в устойчивые сигнальные системы. Базовым алгоритмом был рефлекс, и наш интеллект сделан в конечном итоге из них. Интеллект придумал понятие разума для идентификации себе подобных. При этом наш интеллект пытается искать себе подобных без учета сырья, из которого сделан - кто сказал, что инопланетный разум должен базироваться на рефлексах? Считать ли рефлексом электронный отклик наших компьютеров? Считать ли рефлексом атмосферы ветер? Атмосфера - крайне сложная, непросчитываемая система (это известная проблема неопределяемости состояний динамических систем как раз из-за астрономического количества решений. Чем не 1000 пластинок для граммофона?) Я уж не говорю про разную скорость метаболизма, скажем, Солнца и инфузории.
Насчет определения через то, чем НЕ является - не надо, через отрицание определения не делают, иначе получим бесконечное количество ответов.

0

39

Механьяк написал(а):

Бесконечных ответов не получим - наоборот, отсеим заведомо ненужные +)

Отсеивать придется бесконечно... Впрочем, если у нас наметился короткий список вариантов, можно и убрать неподходящие.
Вопрос не в этом. Мы не пытаемся сказать, что такое разум. Мы пытаемся доказать, что это не чайник Рассела. Т.е. я свожу разум к набору кода, и тем самым утверждаю, что разум и не-разум - одно и то же, => понятие разума бессмысленно.
Другими словами, если мы создадим разум, то это будет человеческое сознание и только оно. Тогда мы не можем называть разумным внеземной разум или компьютерный ИИ, он же не является человеческим.

0

40

Ну, я как бы уже сказал, что хотел. Вопрос потихоньку свёлся к тому, насколько точным должно быть понятие, например, руки, и можно ли называть так традиционно-верхнюю конечность Терминатора.
Это всё очень интересно, но...

0

41

Да нет же, точность понятия - это другая опера.
Наш случай - это когда мы не можем идентифицировать процесс мышления. Т. е. мы можем описать (очень примерно и расплывчато) процесс НАШЕГО мышления, а другого нет. Или есть? А как вы это поняли?
Поэтому мы ищем человека. И пришельцы, и терминатор должны быть похожи на нас - но это же глупо совсем. Не надо искать людей в космосе, их там нет.
У нас, у людей, есть эго, которое возводит в крайнюю степень значимости себя, поэтому так все происходит. С точки зрения Вселенной человек как биоробот равноправен с терминатором, например, или с атмосферой. Но мы, глупые несовершенные машины, все процессы у нас в мозгах называем мышлением, а за пределами головы - нет, это бездушная механика.
А мы сами и есть механика.  Наш разум - механика, как и вообще все. Вы не найдете то, что неидентифицировано. Никто, кроме людей с их биологией не имеет т.н. разума, и если вы ищете/создаете разум - это значит, что вы пытаетесь сделать еще одного человека... Гипотетический внеземной разум не будет оперировать нашей формалистикой.... Вы не опознаете его как разум, это будет дрон.
Вам приходило в голову, что люди - это биодроны? Наделенные самостоятельностью, но до известных пределов.

0

42

Это верное наблюдение, про жизнь. Мы знаем только белковую жизнь и ищем ее... А на альфа центавра, может, белок не в ходу. Нет ошибки. Я специально ничего не говорил про жизнь, чтобы не оффтопить, а так - похоже.
У белковой жизни,впрочем, могут быть сигнатуры. Сложная замкнутая структура или способность к репликации. Сигнатуры -это уже хорошо, есть точка отсчета.
Но. Если мы у себя не можем классифицировать прионы или вирусы, жизнь ли это. Что будет, если обнаружим нечто категорически иное? Не белковое? Достаточно ли будет имеющихся сигнатур?
А по разуму так вообще нет сигнатур.
(Сигнатура - это признак. Не исчерпывающее определение жизни, а намеки так сказать. Если их накопится достаточно для статистической значимости, то объект считаем состоявшимся, ибо прямых доказательств по большинству вопросов можно вообще не найти.)

0

43

Ну нас же типа интересует разум на любых носителях. Или если он железный - то все, не разум? Прямо фашизм какой-то.

0

44

Где же? Это я просто с вашей точки зрения смотрю, вы же ищете на любых носителях. Я же приравнял разум и человеческое сознание, => не ищу эту систему вне человеческой оболочки.
Но несомненно, разум - интересная мутация в природе.

Отредактировано Serpe (2015-11-21 16:47:58)

0

45

Механьяк написал(а):

Хмъ, а ежели ИИ запилит себе тульпу, что получится? %)


А разве ИИ вообще испытывает потребность в общении? Тем более, с самим собой.

0

46

Глюкнехт написал(а):

Отождествление эволюции и рэндома — не то, что я ожидал тут увидеть.

Если не рэндом, то есть направляющая сила, не обязательно авраамический Бог, хотя бы деистический или Эйва какая-ньть.

0

47

Поскольку всё это построено на нечётких словах, то определения «эволюция» и «рэндом» не на сто процентов противоречат друг другу, но рождают совершенно разные мысленные образы.

Слово «рэндом» вызывает в воображении нечто подобное результату однократного броска кучи игральных костей — беспорядочный набор цифр или иных параметров.

Эволюция же — это когда кости бросаются непрерывно, причём тот или иной результат предыдущего броска сразу приводит к следующему броску с тем же цифровым результатом, более того — при выпадении на костях двойки или шестёрки подобный результат закрепляется уже на пару следующих бросков наперёд. В результате чего через некоторое количество бросков вы будете видеть уже не хаотичный набор цифр, а набор цифр с преобладанием двоек и шестёрок.

0


Вы здесь » Форум проекта WikiTropes.RU » Кафе "За жизнь" » Искусственный интеллект