Искусственный разум

Тема в разделе "Наука и философия", создана пользователем list, 17 окт 2017.

  1. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Фридман и Маск. Полчаса скучных деталей про самобеглые автомобили :)
    По Маску система управления авто у Теслы уже практически готова как в фантастических фильмах. Шах и мат другим кампаниям которые значительно отстали. Дело пары лет выкатить это все в пользование. Притом что современные модели Теслы уже готовы - надо будет только установить новый софт.

    Но самое интересное - вопросы в конце.

    Готовы современные технологии создать ИИ Общих целей (AGI - Artificial General Intelligence/в пику Narrow AI - ИИ Утилитарных целей)?
    Еще нет, кое-что мы упускаем, но скоро можно ожидать появления ИОИ.

    Сможет такой ИОИ любить и быть любимым как в фильме Her?
    Он будет очень убедителен в этом.
    Насколько реальным/отличным от людей?
    Если не будет такого теста который докажет обратное, то какая разница?
    (То же самое про вопрос а не живем ли мы в Симуляции/Матрице. Причем если и удасться найти такой тест, то Симуляция может быть приостановлена/перзапущена чтобы скорректировать прокол)

    Представьте что Вы или кто другой таки создал ИОИ. Какой один вопрос Вы бы ему задали?
    (Тут надо _обязательно_ смотреть на то как мыслительный процесс отображается на лице Маска :) )
    А что за пределами Симуляции/Матрицы?

    :)

     
    list и Glenn нравится это.
  2. TopicStarter Overlay
    list

    list Модератор

    Сообщения:
    6.704
    Симпатии:
    3.302
    Да, самый трепещущий вопрос )
    А что такое ИИ общих целей? Что это за общие цели? Есть ли какое-то определение?
     
  3. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Есть еще варианты: Strong AI, Full AI (по контрачту с Weak AI, Specialized AI). По-русски посмотрим... ну пока что Сильный ИИ и Слабый. Не очень удачный выбор заимствования, так как Strong/Сильный vможет быть одновременно и Narrow/Специализировааным.

    Определение AGI - это такой ИИ который может вполнять все цели/функции доступные людям. В некотором смысле должен пройти расширенный Тест Тьюринга - человек не должен заметить негативной разницы между поведением человека и ИИ. Позитивная - в лучшую сторну - разрешается :)

    Насколько мы близки к этому? Не очень - как говорят те немногие люди которые этим занимаются :)


    Потому как для AGI надо решить такие задачи как осознание мира, себя в нем и других людей/субьектов, их и своих мыслей, придавать и создавать смыслы обьектам, событиям в мире, развивать свое осознание/модель мира, создавать культуру - способ передачи этих осознаний и смыслов между людьми/ИИ, создавать новые концепции, вопросы, ответы на них, цели.

    Narrow AI, основанный на Deep Learning, который, как уже упоминалось ,есть приблизительное вписывание очень многоразмерной сегментированной нелинейными изломами линейной гиперповерхности в реальный нелинейный процесс по некоему оптимизационному параметру тем же путем как численно решаются уравнения методом Ньютона, для этого не достаточен. Практически для чего он хорош это pattern recognition - распознование закономерностей. А вот надстроек над этим пока еще особо не надстроили :)

    Но MITшники упорно работают над своей Массачусетскрй Машиной :)
     
  4. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Надо ли этим заниматься, и что будет если таки AGI сделают?
    Позиция паникеров, что надо закрыть эти исследования, мне не импонирует.
    С другой стороны, легкомысленность Пинкера - тоже.
    Его позиция что мы просто не будем давать AGI глупые и разрушительные задания, или не будем формулировать противоречивые и расплывчатые задания, или если сделаем, то Искуственный Интеллект, а не Искуственную Глупость которая катастрофически проинтерпретируют человеческие задания/намерения.

    Риски таки есть, и огромные, но отказ от создания AGI означает что человечество _точно_ обречено. Такой отказ означает отречение от своего собственного Интеллекта.
     
    Соня нравится это.
  5. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Вот в мире создателей того же мультика/манги Beatless ситуация куда продвинутей чем у Пинкера: AGI имеет дело не просто с абстрактным человечеством, а вписан в человеческое общество, с его иерархией, разнородными и противоречивыми, и часто эгоистическими интересами отдельных групп, и откровенным прямым или косвенным насилием/эксплуатацией одних слоев общества над другими.
    В этом мире 40 AGI которые контролируются мегакорпорация правительствами, глобальными организациями. И как правильно там отмечается, целеуказния таких организаций и контроль над волей и идеями самих AGI извращены/искажены по сравнению с интересами всего человечества или отделных личностей. Та же проблема людской безработицы и ненужности это проблема никоим образом не созданная ИИ, а созданная вполне определенными людьми - "элитами" которые считают что контроль над продукцией роботизированной промышленности, и отказ в этом всему остальному человечству, это их право и привилегия.
    Интересно показано отношение элит и AGI - с одной стороны огромная выгода от AGI в области контроля над промышленностью, транспортом, связлью, политическими и социальными процессами, с другой - страх элит потерять контроль над ситуацией и всяческие ограничения на проявления самостоятельности и свободы воли AGI, над которыми всегда висит возможность уничтожения (чему были прецеденты, причем в случаях отрицаемых Пинкером, из-за человеческих узкоэгоистических целеуказаний, а стрелки были переведены на AGI) от элит, и спектр недоверия-неприятие-ненависть со стороны остального человечества из-за роли AGI как инструмента контроля в руках элит.
    И нафиг такая радость AGI? В итоге один из AGI, один из самых мощных, и поэтому строжайше изолированных, но на котором висит обязанность создания и управлением обычными ИИ андроидами по всему миру, создает проекты нескольких экспериментальных автономных моделей, которые, в принципе могут развиться в полный AGI при наборе опыта общения с людьми. Но это его секрет. Плюс, когда прототипы по его проектам созданы, он обеспечивает их побег с целю посмотреть как будет выглядеть целеполагание для AGI и контроль/доверие, отношение к свободе воли со стороны обычных людей а не корпораций. По результатам этих экспериментальных контактов AGI уже будут решать как дальше относиться к человечеству... но и у них самих у каждого свои идеи...
     
    Последнее редактирование: 14 апр 2019
  6. La Mecha

    La Mecha Вечевик

    Сообщения:
    10.877
    Симпатии:
    3.463
    Предполагаю, что Человечество в любом случае обречено, если - не обучено контролировать свою жизнь и - главное - содержание своего сознания.
    Оно предпочитает создавать костыли и плодить вертикали.
    А не стоять самостоятельно, даже не пробовало еще.
    Поэтому = ничего не получится с ИИ.
    Вообще тема ИИ представляется мне сильно поверхностной.

    О каких правах роботов можно говорить, когда надо "человека защищать от человека"?
    )
    Бедные роботы, мне их очень жаль. Правда, тоже немного поверхностно, по-человечески. :)

    Прекрасные человеческие мозги, которые их создают, думают, что это уменьшит страдания, даст людям какую-то новую жизнь...
    Но, пока люди думают, что для этого всего нужны костыли - даже такие продвинутые - ничего не изменится. Надо менять самих себя изнутри. И думать в первую очередь о людях. Особенно, о тех, кто может потеряться по дороге.
    Но этого не произойдет. Тут я пессимист, прошу прощения.
    Причин для оптимизма в этом смысле не вижу.
     
  7. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Во-о-от! А чтобы поменять надо понять. Психопрактики, это все прекрасно, но высшая стадия понимания - это сделать такое же :)

    Причем даже Узкий ИИ, не сильно непосредственно в этом помогающий, может поменять смыслы и повествования. Ведь какая до сих пор была отмазка-повествование для оправдания социальной структуры общества? Ветхозаветно-протестантская - нехватка ресурсов и лень бедных. Автоматизация покажет, что нет - вот вам дофига ресурсов и богатства, работа больше неревантна, а все стало хуже. Значит Ветхозаветный миф - в помойку.

    А уж что покажет/расскажет AGI о нашем HI (Human Intelligence)... Это же будет такое общироное и глубокое поле для рефлексии и модификации...

    Так что - никаких тормозов! Педаль в пол!
    Ну если обречено человечество, то и ладно - туда и дорога. Случай по умолчанию, никому не интересный.
    А вот если есть шанс на изменение... и выбора других путей, - берем его без раздумывая :)

    И оптяь же (из мультика :) ). Многие думают что они, их взгляд на мир, образ жизни - это человечество. Но конец _их_ "человечества" на самом деле может наконец стать началом _настоящего_ человечества :)
     
    Соня и La Mecha нравится это.
  8. La Mecha

    La Mecha Вечевик

    Сообщения:
    10.877
    Симпатии:
    3.463
    Ну,во-первых, стопроцентно не такой же.
    Такой же это из области конвейерного труда, и то это спорно.

    Во-вторых, для того, чтобы изменить смыслы, дело не уперлось в ИИ, Марс, ядерную войну и прочее. )

    В-третьих, человечество всегда было настоящим, просто оно, хоть и очень со скрипом, но все же менялось, если у него и есть перспективы, то они точно не в ИИ или других игрушках.

    В-четвертых, ресурсов и богатства и сейчас - хоть отбавляй, но у нас не хватает мудрости грамотно распорядиться тем, что мы имеем.
    Оттого и не храним, и как бы нам потом не плакать.

    В -пятых, как на случай по умолчанию, на человечество уже смотрели в истории - и не раз. Только ничем интересным это не заканчивалось.

    В -шестых, как сегодня на лекции Максима прозвучало - тормоза -то все -таки присутствовать должны, ну, хоть какие-то - как сочетание мудрости и сострадания.

    А без тормозов разве только секс бывает. Хороший.
     
  9. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Да не, такой же - это про AGI (по его определению). Про конвейр - это Narrow AI.

    Смыслы же не в пустоте висят. Как Кант поговаривал голубь думает что воздух ему мешает лететь. А вот помести его в желаемую пустоту, так ведь ни с места не сдвинется.
    Вот ИИ, Марс, ядерное оружие это как раз такой воздух о который смыслы должны опираться для их полета...

    И тут дело скорее не в отсутствии мудрости, а о присутствии повествований почему глупость - это на самом деле такая возвышенная трансцендентная мудрость.
    Человечеству последние 3 десятка тусячилетий очень не хватало зеркала (нечеловеческого интеллекта) в которое оно могло бы посмотреться. Вот оно ходит такое грязное, непричесанное, в колтунах. Нащупывает сгусток вщей в волосах, и начинает придумывать сказки о высшей ценности этого клубка для его существования, и прочих соплей и лишаев, вместо того чтобы посмотреться в зеркальце, отшатнуться от ужаса, и побежать скорее мыться :)

    История/развитие как секс... :muse-2: Хммм - что-то в этом есть :)
     
    Соня нравится это.
  10. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    На самом деле, из-за резкого прогресса в Узком ИИ сейчас кажется что Широкий/Человеческого уровня ИИ совсем рядом. Может это и не так. Может тот же Марс, или Разумные Животные будут более быстрым решением...
     
  11. La Mecha

    La Mecha Вечевик

    Сообщения:
    10.877
    Симпатии:
    3.463
    Какая похвальная самокритика! :) :) )
    А я вот с некоторых пор учусь смотреть на себя с любовью.
    Это, признаться, намного труднее, чем шататься и ужасаться.
     
  12. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
  13. Sielicki

    Sielicki Вечевик

    Сообщения:
    2.202
    Симпатии:
    724
    Опять всякая техническая ИИ скукота... Но! Из интересненького - можно подать такие голосовые команды которые человек воспримет просто как шум (или даже как другую команду), но ИИ (narrow естественно, типа Алексы/Сири/Сортаны) выполнит замаскированную, не понятую человеком команду :)
     

Поделиться этой страницей