Искусственный разум

Тема в разделе "Наука и философия", создана пользователем list, 17 окт 2017.

  1. Василий

    Василий Модератор

    Сообщения:
    9.156
    Симпатии:
    1.613
    Я правильно понимаю, что речь идет о том, что мы полагаем некую когнитивную систему эквивалентной нашей, когда проецируем ее внешние атрибуты на нашу картину мира? Что важным компонентом является флуктуация в интерпретации явлений при переходе от одной картины мира - к другой? И что это - "восприятие в контексте"?
     
  2. Ондатр

    Ондатр Модератор

    Сообщения:
    27.483
    Симпатии:
    10.169
    наверно )
     
  3. Василий

    Василий Модератор

    Сообщения:
    9.156
    Симпатии:
    1.613
    А если в качестве другого художественного примера взять Каю из Пелевинского S.N.U.F.F. Допустим, по внешним признакам устанавливаем перечисленные свойства, включая флуктуацию. Контекст есть? )
     
  4. La Mecha

    La Mecha Вечевик

    Сообщения:
    10.142
    Симпатии:
    2.901
    Всегда удивлялась, почему многообразие человеческого ума сведено к IQ, к какому-то тесту? Таким это странным казалось всегда.

    И как нам это может помочь, если и вдруг?
     
  5. Ондатр

    Ондатр Модератор

    Сообщения:
    27.483
    Симпатии:
    10.169
    ну это уже из области многочисленных произведений о людях которые как бы роботы )
     
  6. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Тест - это просто инструмент. Инструмент, определяющий качество другого инструмента - ума, или количества нейронных связей в мозге, а от них напрямую зависит число возможностей в поисках решения той или иной задачи. В абсолютно любых когнитивных и творческих областях. Насколько я понимаю.
    Разумеется, он не идеален. Просто лучше пока ничего не придумали (или ещё не запустили в ход).
     
  7. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    ИИ-то как раз и хотят наделить человеческой моделью восприятия, что и действительно - большая ошибка. Нам бы пора учиться контактировать с ними как не с себе-подобными.
    Но пример понятен, спасибо.

    Т.о., как я понимаю, главным действующим лицом на этой сцене является Алгоритм. А поскольку он в каждом случае разный и не сводим к какой-либо классификации и обобщениям, то его логичнее назвать не алгоритмом, а чем-то вроде сонастройки. В любом случае это поиск взаимодействия - и даже не столько с Объектом, сколько с Явлением (явлением сиюминутной акциденции).

    Тогда вопрос "как", в будийской модели направленный внутрь, здесь становится "как", обращённым вовне: "как взаимодействовать?". А "что (что это?)" теряет смысл (потому что объект-явление не вписывается по определению в какой бы то ни было контекст) и оборачивается вопросом "что делать". Таким образом можно сказать, что ответом на вопрос "а что даёт нам этот подход" может стать: создание среды внеконтекстуального взаимодействия. И соответственно внеконцептуального.

    То есть это, выходит, прямой шаг к контакту с инопланетными формами жизни - в самом широком смысле. Если раньше мы, контактируя с неизвестным, всегда действовали по принципу воссоздания подобия (от наделения человеческими свойствами других существ, неодушевлённой материи и вплоть до религиозных систем), автопроекции, то теперь нам надо учиться воспринимать а-подобное. И искать алгоритм к этого рода восприятию. Так?

    Если учесть, что человеческая (эго-)модель настроена на потребление, защиту границ и ресурсов, а снимает этот режим только буддийская модель разотождествления с я-моделью, то, вероятно, последняя должна стать необходимой переходной ступенью к созданию такой среды. Иначе нас ждёт провал, т.к. мы непременно спроецируем на неё свою враждебность. (Как Воронин в финале Града Обречённого.) И, соответственно, безукоризненная этическая база должна быть прошита по умолчанию. Хотя само взаимодействие, если я правильно понимаю, лежит уже за пределами этической системы.
     
    Последнее редактирование: 29 окт 2017
  8. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Кстати, термин "объект-явление" здесь может быть тождественен "частице-волне" из квантовой физики.
     
    Последнее редактирование: 29 окт 2017
  9. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Жаль, что Максим потерял интерес к теме, - я так и не узнаю, в том ли направлении двигается моя мысль. )
     
  10. Ондатр

    Ондатр Модератор

    Сообщения:
    27.483
    Симпатии:
    10.169
    вариантов развития темы много. но то что вы написали у меня серьёзных возражений не вызывает
     
  11. plot

    plot Техадмин

    Сообщения:
    19.857
    Симпатии:
    2.051
    Заранее прошу прощения за дилетантизм.

    Изначально искусственный ээ организм (ИО) имеет, допустим, некий массив визуальных данных. Далее эти данные обрабатываются и в них выделяются отдельные элементы - табуретка, человек, сидящий на табуретке, потолок, пол, стены, окно. Вот этот этап выделения отдельных элементов в соответствии с, так сказать, "инвентарным списком" объектов - разве он не обусловлен полностью тем, что изначально прошито в память этого ИО человеком, а значит всем этим человеческим контекстом? То есть строго говоря, с одной стороны без инвентарного списка в этом деле не обойтись, а с другой стороны он может быть каким угодно. Таких списков в ИИ может быть вообще прошито множество, но это не отменяет того, что реальность воспринимается этим ИО в контексте, исходя из которого он дальше и действует. Сама же по себе "сырая реальность" вне инвентарных списков оказывается для него неоперабельна. Так где же "внеконтекстность"? Я не очень понимаю, всё же, в чём тут новизна.

    К вопросу же о полноценном сознании ИИ, то для его возникновения после "инвентарного восприятия" должно возникнуть "Чувство", первичная оценка - "это желательно, это нежелательно, это нейтрально". Но у нормального животного сознания, коим обладает и человек, это происходит на лимбическом уровне, в виде эмоции, рождённой из базовых инстинктов. У ИИ ничего подобного ожидать не приходится, просто потому, что он не животное и никогда, эволюционно, им не был.

    Поэтому максимум, чего от него можно ожидать, это что аналогом Чувства (веданы, говоря буддийским языком) у него будет "интеллектуальное чувство", оценка-анализ в соответствии с теми или иными исходными параметрами. Но на полноценность ИИ, как мне кажется, никогда не будет тянуть, просто потому, что эмоциональная часть ему будет недоступна, страдание ему будет неведомо.

    Но недоступна ему будет не только животная эмоциональная часть, но и "над-животная" - брахма-вихары, чувства, связанные с архетипической реальностью и т.д. В связи с этим ему будет недоступна и активность "трансцендентная", так сказать.

    При отсутствии внешних стимулов и соответствующих алгоритмов ИИ не сможет сам определять для себя новые цели и мотивации, "из ничего". Иными словами, если ничто не будет происходить и при этом ИИ не будет иметь на этот случай каких-либо специальных задач, он будет пребывать просто в режиме ожидания. Вот это, кстати, на мой взгляд, самый чёткий и ясный критерий полноценности сознания, а не какие-то там чаты. Творец мыслей, да. Не просто компилятор, а именно творец.

    Соответственно, трудно ждать от ИИ и враждебности, и борьбы за существование (с тем же человеком), если только приоритет самосохранения не будет в него прошит изначально каким-нибудь безумным программистом. Но и в этом случае это будет не борьба не на жизнь а на смерть, а просто выполнение алгоритмов.

    Чисто технически, сколь угодно сложный ИИ не будет отличаться от сколь угодно сложного калькулятора.
     
  12. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Нет, там нет инвентарного списка. Смотрела ролик, где рассказывают, как проходит обучение ИИ определять, что перед ним. Там целая система, и это обучающая система, она огромна и чрезвычайно сложна, и при этом вся состоит из единиц и нулей. Это каждый раз заставляет машину думать, использовать тот самый алгоритм с неизвестным.

    Думаю, всё несколько сложнее, чем ты описал. Если будут попадаться материалы по технической части - буду выкладывать.
     
  13. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    И они учат машину именно самостоятельному мышлению, из ничего. И чувство в ней будет вполне эмоциональное.

    Более того: речь идёт не о том, чтобы прошить этические нормы в матрицу или оперативную систему - не знаю, как правильно сказать. Цель именно в том, чтобы машина каждый раз вырабатывала эти нормы и решения сама.
     
  14. plot

    plot Техадмин

    Сообщения:
    19.857
    Симпатии:
    2.051
    Это уже интереснее. )
    ОК, но на основе чего она будет думать и использовать алгоритм с неизвестным? В основе всё равно будет некий базовый инвентарный список? Несмотря на то, что дальше она его будет уточнять, систематизировать, дополнять, и т.д.
    Как это можно определить?
     
  15. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Все эти вопросы не ко мне. ) Кухню во-первых никто не открывает, а во-вторых мой естественный интеллект вряд ли уловит все технические нюансы дела. Но если ведётся речь о том, что это возможно, - а она ведётся, - то мы можем рассуждать об этом как о реальной перспективе. Которая, возможно, не так уж и далека.

    Цитата из рекомендованной Юлей книги (см. выше).

    Мы очень многого не знаем, да, чтобы поднимать эту тему в полном виде.
     
  16. plot

    plot Техадмин

    Сообщения:
    19.857
    Симпатии:
    2.051
    Вот это и есть создание инвентарного списка, с возможностью его уточнения. Динамический инвентарный список.

    В целом, проблематика того, о чём говорится в приведённой тобой цитате, на самом деле, как мне кажется, упирается в Чувство. Человек, по умолчанию, испытывает Чувство ко всему вообще. До мельчайших деталей. Но оно, в конечном итоге, исходит из фундаментального желания быть или не быть. Откуда у машины может возникнуть чувство и желание, стремление, эмоциональное предпочтение, или, скажем, экзистенциальная тоска - не могу себе представить.

    Вообще, всё здесь упирается не в то, чтобы научить машину думать, а именно в то, как "заставить" её испытывать эмоции (а значит и страдать) [каково звучит - "заставить машину страдать"!], и как мы определим, что она действительно их испытывает.
     
  17. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Да, поэтому это действительно жестокий эксперимент. Зачем машину учить страданию? Уж лучше оставить ей её "природные" функции, в этом случае она будет и более безопасна, и намного более эффективна, полезна и "дружественна" в человеческом смысле слова.

    Например, мне бы не хотелось, чтобы в один прекрасный день на мой очередной тривиальный запрос Яндекс не стал бы выдавать ответы потому, что накануне на меня обиделся. ) *она так шутит

    Да, вопросов тут пока намного больше, чем ответов, в т.ч. у самих разработчиков. Но данная тема всё же стоит того, чтобы иногда посматривать в её сторону. Как раз именно в силу колебания векторов её развития.
     
  18. plot

    plot Техадмин

    Сообщения:
    19.857
    Симпатии:
    2.051
    И в силу того, что мы таким образом лучше начнём понимать, как работает наше собственное сознание. Может быть. )
     
    list нравится это.
  19. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.098
    Симпатии:
    619
    Одна из основных теорем в ИИ формулируется примерно так что с увеличением размерности пространств их объем концентрируется на их поверхности. Более интуитивно понятно можно было бы сказать просто что с увеличением размерности пространства его обьем увеличивается. Ну, типа, на прямой длина отрезка внутри радиуса R/2 будет такая же что и между R и R/2. В круге площадь внешнего кольца больше внутреннего R/2 круга пропорциональна квадрату радиуса, а объем внешней оболочки шара - кубу.
    Поэтому когда мы имеем дело с объектами такими как они есть, каждый из них будет иметь свою размерность (то как раз о чем Чомский говорил про язык животных), и обьем пространства Вселенной будет не просто стремиться к бесконечности ее объектов, а к "дурной" бесконечности совсем другого порядка. И каким ни был бы ИИ скорострельным и объемным, Все равно его удасться тренировать в очень и очень ограниченных лоскутках реальности.

    То есть наши восторги вызваны тем что ИИ показывает результаты куда более впечатляюще чем "животное" моделирование реальности как она есть :) , но ему так же далеко до "восприятия Вселенной самой себя" как и животным-человеку использующему этот подход :) В отличии от "тонкого контекстного" HSS подхода моделирования Вселенной воображаемыми Вселенными.
     
  20. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.098
    Симпатии:
    619
    Из все тех же кантианских соображений - embodied cognition, и все такое прочее.
    https://ideas.ted.com/want-to-know-what-aliens-will-be-like-just-look-at-an-octopus/
    (В видео еще больше чем в статье, и немного о другом)

    То есть в соответствии с этими идеями наше сознание не просто жестко связано со Структурой/Телом, а сформировано им.
    То есть постоянный поток сигналов от тела - то болит, то зачесалось, то чего-то хочет, и изоляция тела от остальной Вселенной, которая не чешется, принципиально влияет на формирование сознания.
    Если сформировать сознание в принципиально другом теле, то мы можем и не понять это сознание, или вообще ему отказать в существовании.

    И поэтому правильно увлечение именно андроидами - мы их, и они нас как-то смогут понять, ну и инструментом расширения горизонтов будут. По чуть-чуть можно будет и человека сподвигнуть привыкать к другим телам, расширяя его сознание :)
     
    Последнее редактирование: 29 окт 2017
    list нравится это.
  21. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Не просто в соответствии с идеями, но и чисто феноменологически. Вы ещё у нас тут не буддист? )
    Не то слово - обусловлено телом. Проникая, например, мысленно внутрь другого тела, мы воспринимаем его изнутри своими же органами чувств, а не какими-то другими. Мы постоянно проецируем себя и свой опыт на всё. И ничего другого просто не можем. У нас нет других инструментов познания. Но не факт, что мы сможем получить представление о них путём вживления этого инструментария в робототехнику. Возможно, для этого нужно будет стать другим телом-сознанием, открепившись предварительно от своего "набора". Пока трудно представить это.
     
  22. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.098
    Симпатии:
    619
    Ну да, звучит вроде как по-буддистски :)
    Но вообще-то кое-какие механизмы есть (если не прямого подключения, то достаточно гомоморфного проецирования в свой мир чувств) - те же зеркальные нейроны, эмпатия. Вот там видео есть трюк с подключением муляжа руки в Себя :)
    И тут дело не только в том чтобы давать андроидам человек-подобные аппараты чувствования, но и в киборгизации самого человека. В подключении этих новых инструментов и к себе. Типа встретиться с андроидным ИИ на середине пути :)
     
  23. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Вот как раз попалась заметка на эту тему. Понятно, что она новостная и не претендует на полный охват возможностей, это только примеры: Очень многие из ключевых проблем XXI века могут быть решены именно умными машинами.
     
    La Mecha нравится это.
  24. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.098
    Симпатии:
    619
    Вообще-то большинство ужасов приписываемых ИИ исходят не от него самого, а от людей мнящих его использовать. Типа "крадет рабочие места" - а они кому-то нужны? Нужны материальные (и нематериальные) блага, а вот их увязывание с "рабочими местами" это дело рук не ИИ, а людей.
     
  25. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    5.633
    Симпатии:
    2.468
    Да, нам пока ещё трудно отвыкнуть от мысли, что блага эти могут быть не связаны с наличием/отсутствием и вообще понятием рабочих мест в его традиционном смысле. Куда распределятся все эти освободившиеся люди, как конкретно будет работать система обеспечения их жизнедеятельности? Об этом ведь пока мало кто говорит, большинство живёт в соответствии с привычными представлениями. Вот постепенно где-то экспериментально вводят этот базовый доход, делаются единичные шаги в эту сторону. Система жизнеустройства будет кардинально другой. Но всё это кажется слишком далёким и нереальным, особенно в не слишком развитых странах, а то, что мы имеем в действительности, - это массовые сокращения и отсутствие доходов к жизни. Но это уже не в тему ветки. )

    Как и другие неэтичные использования ИИ: как орудие убийства, порабощения, захвата мирового господства и т.п. Всё это человеческие дела, цели и намерения, а машина - просто инструмент, только превышающий наши собственные способности в сфере интеллекта. Лишь в этом её отличие от ножа или автомобиля, грубо говоря.
     
    Последнее редактирование: 31 окт 2017
    Sielicki нравится это.

Поделиться этой страницей