Искусственный разум

Фридман и Маск. Полчаса скучных деталей про самобеглые автомобили
По Маску система управления авто у Теслы уже практически готова как в фантастических фильмах. Шах и мат другим кампаниям которые значительно отстали. Дело пары лет выкатить это все в пользование. Притом что современные модели Теслы уже готовы - надо будет только установить новый софт.

Но самое интересное - вопросы в конце.

Готовы современные технологии создать ИИ Общих целей (AGI - Artificial General Intelligence/в пику Narrow AI - ИИ Утилитарных целей)?
Еще нет, кое-что мы упускаем, но скоро можно ожидать появления ИОИ.

Сможет такой ИОИ любить и быть любимым как в фильме Her?
Он будет очень убедителен в этом.
Насколько реальным/отличным от людей?
Если не будет такого теста который докажет обратное, то какая разница?
(То же самое про вопрос а не живем ли мы в Симуляции/Матрице. Причем если и удасться найти такой тест, то Симуляция может быть приостановлена/перзапущена чтобы скорректировать прокол)

Представьте что Вы или кто другой таки создал ИОИ. Какой один вопрос Вы бы ему задали?
(Тут надо _обязательно_ смотреть на то как мыслительный процесс отображается на лице Маска )
А что за пределами Симуляции/Матрицы?

 

Есть еще варианты: Strong AI, Full AI (по контрачту с Weak AI, Specialized AI). По-русски посмотрим... ну пока что Сильный ИИ и Слабый. Не очень удачный выбор заимствования, так как Strong/Сильный vможет быть одновременно и Narrow/Специализировааным.

Определение AGI - это такой ИИ который может вполнять все цели/функции доступные людям. В некотором смысле должен пройти расширенный Тест Тьюринга - человек не должен заметить негативной разницы между поведением человека и ИИ. Позитивная - в лучшую сторну - разрешается

Насколько мы близки к этому? Не очень - как говорят те немногие люди которые этим занимаются


Потому как для AGI надо решить такие задачи как осознание мира, себя в нем и других людей/субьектов, их и своих мыслей, придавать и создавать смыслы обьектам, событиям в мире, развивать свое осознание/модель мира, создавать культуру - способ передачи этих осознаний и смыслов между людьми/ИИ, создавать новые концепции, вопросы, ответы на них, цели.

Narrow AI, основанный на Deep Learning, который, как уже упоминалось ,есть приблизительное вписывание очень многоразмерной сегментированной нелинейными изломами линейной гиперповерхности в реальный нелинейный процесс по некоему оптимизационному параметру тем же путем как численно решаются уравнения методом Ньютона, для этого не достаточен. Практически для чего он хорош это pattern recognition - распознование закономерностей. А вот надстроек над этим пока еще особо не надстроили

Но MITшники упорно работают над своей Массачусетскрй Машиной

 

Надо ли этим заниматься, и что будет если таки AGI сделают?
Позиция паникеров, что надо закрыть эти исследования, мне не импонирует.
С другой стороны, легкомысленность Пинкера - тоже.
Его позиция что мы просто не будем давать AGI глупые и разрушительные задания, или не будем формулировать противоречивые и расплывчатые задания, или если сделаем, то Искуственный Интеллект, а не Искуственную Глупость которая катастрофически проинтерпретируют человеческие задания/намерения.

Риски таки есть, и огромные, но отказ от создания AGI означает что человечество _точно_ обречено. Такой отказ означает отречение от своего собственного Интеллекта.

 

Вот в мире создателей того же мультика/манги Beatless ситуация куда продвинутей чем у Пинкера: AGI имеет дело не просто с абстрактным человечеством, а вписан в человеческое общество, с его иерархией, разнородными и противоречивыми, и часто эгоистическими интересами отдельных групп, и откровенным прямым или косвенным насилием/эксплуатацией одних слоев общества над другими.
В этом мире 40 AGI которые контролируются мегакорпорация правительствами, глобальными организациями. И как правильно там отмечается, целеуказния таких организаций и контроль над волей и идеями самих AGI извращены/искажены по сравнению с интересами всего человечества или отделных личностей. Та же проблема людской безработицы и ненужности это проблема никоим образом не созданная ИИ, а созданная вполне определенными людьми - "элитами" которые считают что контроль над продукцией роботизированной промышленности, и отказ в этом всему остальному человечству, это их право и привилегия.
Интересно показано отношение элит и AGI - с одной стороны огромная выгода от AGI в области контроля над промышленностью, транспортом, связлью, политическими и социальными процессами, с другой - страх элит потерять контроль над ситуацией и всяческие ограничения на проявления самостоятельности и свободы воли AGI, над которыми всегда висит возможность уничтожения (чему были прецеденты, причем в случаях отрицаемых Пинкером, из-за человеческих узкоэгоистических целеуказаний, а стрелки были переведены на AGI) от элит, и спектр недоверия-неприятие-ненависть со стороны остального человечества из-за роли AGI как инструмента контроля в руках элит.
И нафиг такая радость AGI? В итоге один из AGI, один из самых мощных, и поэтому строжайше изолированных, но на котором висит обязанность создания и управлением обычными ИИ андроидами по всему миру, создает проекты нескольких экспериментальных автономных моделей, которые, в принципе могут развиться в полный AGI при наборе опыта общения с людьми. Но это его секрет. Плюс, когда прототипы по его проектам созданы, он обеспечивает их побег с целю посмотреть как будет выглядеть целеполагание для AGI и контроль/доверие, отношение к свободе воли со стороны обычных людей а не корпораций. По результатам этих экспериментальных контактов AGI уже будут решать как дальше относиться к человечеству... но и у них самих у каждого свои идеи...

 

Предполагаю, что Человечество в любом случае обречено, если - не обучено контролировать свою жизнь и - главное - содержание своего сознания.
Оно предпочитает создавать костыли и плодить вертикали.
А не стоять самостоятельно, даже не пробовало еще.
Поэтому = ничего не получится с ИИ.
Вообще тема ИИ представляется мне сильно поверхностной.

О каких правах роботов можно говорить, когда надо "человека защищать от человека"?
)
Бедные роботы, мне их очень жаль. Правда, тоже немного поверхностно, по-человечески.

Прекрасные человеческие мозги, которые их создают, думают, что это уменьшит страдания, даст людям какую-то новую жизнь...
Но, пока люди думают, что для этого всего нужны костыли - даже такие продвинутые - ничего не изменится. Надо менять самих себя изнутри. И думать в первую очередь о людях. Особенно, о тех, кто может потеряться по дороге.
Но этого не произойдет. Тут я пессимист, прошу прощения.
Причин для оптимизма в этом смысле не вижу.

 

Во-о-от! А чтобы поменять надо понять. Психопрактики, это все прекрасно, но высшая стадия понимания - это сделать такое же

Причем даже Узкий ИИ, не сильно непосредственно в этом помогающий, может поменять смыслы и повествования. Ведь какая до сих пор была отмазка-повествование для оправдания социальной структуры общества? Ветхозаветно-протестантская - нехватка ресурсов и лень бедных. Автоматизация покажет, что нет - вот вам дофига ресурсов и богатства, работа больше неревантна, а все стало хуже. Значит Ветхозаветный миф - в помойку.

А уж что покажет/расскажет AGI о нашем HI (Human Intelligence)... Это же будет такое общироное и глубокое поле для рефлексии и модификации...

Так что - никаких тормозов! Педаль в пол!
Ну если обречено человечество, то и ладно - туда и дорога. Случай по умолчанию, никому не интересный.
А вот если есть шанс на изменение... и выбора других путей, - берем его без раздумывая

И оптяь же (из мультика ). Многие думают что они, их взгляд на мир, образ жизни - это человечество. Но конец _их_ "человечества" на самом деле может наконец стать началом _настоящего_ человечества

 

Ну,во-первых, стопроцентно не такой же.
Такой же это из области конвейерного труда, и то это спорно.

Во-вторых, для того, чтобы изменить смыслы, дело не уперлось в ИИ, Марс, ядерную войну и прочее. )

В-третьих, человечество всегда было настоящим, просто оно, хоть и очень со скрипом, но все же менялось, если у него и есть перспективы, то они точно не в ИИ или других игрушках.

В-четвертых, ресурсов и богатства и сейчас - хоть отбавляй, но у нас не хватает мудрости грамотно распорядиться тем, что мы имеем.
Оттого и не храним, и как бы нам потом не плакать.

В -пятых, как на случай по умолчанию, на человечество уже смотрели в истории - и не раз. Только ничем интересным это не заканчивалось.

В -шестых, как сегодня на лекции Максима прозвучало - тормоза -то все -таки присутствовать должны, ну, хоть какие-то - как сочетание мудрости и сострадания.

А без тормозов разве только секс бывает. Хороший.

 

Да не, такой же - это про AGI (по его определению). Про конвейр - это Narrow AI.

Смыслы же не в пустоте висят. Как Кант поговаривал голубь думает что воздух ему мешает лететь. А вот помести его в желаемую пустоту, так ведь ни с места не сдвинется.
Вот ИИ, Марс, ядерное оружие это как раз такой воздух о который смыслы должны опираться для их полета...

И тут дело скорее не в отсутствии мудрости, а о присутствии повествований почему глупость - это на самом деле такая возвышенная трансцендентная мудрость.
Человечеству последние 3 десятка тусячилетий очень не хватало зеркала (нечеловеческого интеллекта) в которое оно могло бы посмотреться. Вот оно ходит такое грязное, непричесанное, в колтунах. Нащупывает сгусток вщей в волосах, и начинает придумывать сказки о высшей ценности этого клубка для его существования, и прочих соплей и лишаев, вместо того чтобы посмотреться в зеркальце, отшатнуться от ужаса, и побежать скорее мыться

История/развитие как секс... Хммм - что-то в этом есть

 

На самом деле, из-за резкого прогресса в Узком ИИ сейчас кажется что Широкий/Человеческого уровня ИИ совсем рядом. Может это и не так. Может тот же Марс, или Разумные Животные будут более быстрым решением...

 

Какая похвальная самокритика! )
А я вот с некоторых пор учусь смотреть на себя с любовью.
Это, признаться, намного труднее, чем шататься и ужасаться.

 

Опять всякая техническая ИИ скукота... Но! Из интересненького - можно подать такие голосовые команды которые человек воспримет просто как шум (или даже как другую команду), но ИИ (narrow естественно, типа Алексы/Сири/Сортаны) выполнит замаскированную, не понятую человеком команду

 

А как вообще можно это себе представить с точки зрения ИИ? Ведь никто думаю не станет отрицать что ИИ сейчас это всего лишь библиотека реализующая различные алгоритмы машинного обучения в рамках того или иного языка программирования (ЯП). В перспективе у ИИ будет огромная база данных и высокая скорость доступа к отдельным ячейкам памяти из нее. На этом все.
А так есть уже готовые библиотеки в некоторых языках программирования, пр. Python (PyBrain) основными возможностями которой являются:
- обучение с учителем
- обучение без учителя
- обучение с подкреплением (испытуемая система (агент) обучается, взаимодействуя с некоторой средой)
- оптимизация методом чёрного ящика (изучается реакция системы, как целого, на изменяющиеся условия, вместо свойств и взаимосвязей составных частей системы)

 

Я там выше уже рекомендовал канал Алекса Фридмана с интервью с разными известными товарищами в области ИИ

Но вообще ИИ сейчас понимается по большей части как Искуственные Нейронные Сети (потому что большая часть успехов в ИИ идет оттуда.
Но ИНС математически это сильно нелинейное отображение обьектов из очень многоразмерного пространства моделирующего состояние интересующего нас кусочка Вселенной в малоразмерное пространство, грубо говоря, наших вопросов или интересов в этой Вселенной
И это сильно нелинейное и многоразмероное отображение/преобразование моделируется серией постепенных линейно-простенко нелинейных преобразований с постепенным снижением размерностей. То есть грубо говоря такое облагороженное curve-fitting в облако наблюдений. С помощью которого пытаются получить методом тыка Формулу Всего. Ну или по крайней мере Всего Интересующего в рамках задачи.

Как из этого получить AGI - ИИ общего назначения или human-like AI - человекоподбный ИИ? Какими-нибудь ухищрениями типа как в adversarial networks - когда несколько процессов друг с дружкой соревнуются. В общем какая-то игра нужна

 

Ну а как иначе) GAN вроде как уже используется для получения фотореалистичных изображений.
Кто не в курсе GAN (Generative adversarial network) это алгоритм машинного обучения без учителя. Говоря простым языком алгоритм представляет из себя школу состязание между экспертом и подделывателем картин. Эксперт постоянно проверяет любителя фальшивок, а любитель фальшивок постоянно пытается выдать свои поделки за подлинный шедевр мирового искусства. Задача эксперта выявить подделку, задача фальшиво "картинщика" выдать подделку за подлинник, задача алгоритма придти к компромиссу между экспертом и фальшиво "картинщиком", чтобы и эксперт научился очень точно определять подделки и любитель фальшивок научился точно воспроизводить оригинал)

 

А теперь представим что у нас тысячи таких учеников и они щупают слона с разных сторон. А за ними наблюдают всякие учителя, директора, гуру, и прочие личности

 

А вот я нигде не слышал и смиренно надеюсь, что это я придумал элементарнейшую вещь.
Почему всегда в подобных рассуждениях начинают с того, как ИИ сочиняет музыку?
Полагаю, лет 60 обсуждается.
Отчего бы ему (ИИ) не начать с того, чтобы ИСПОЛНЯТЬ музыку???
Можно, напр., чтобы живым оркестром дирижировал робот. И его же можно программировать, чтобы один раз дирижировал так, а другой раз сяк. Можно для очеловечивания программировать легкие ошибки.
Ну и любой музыкальный инструмент с исполнителем можно заменить ИИ. Без потери качества. Имхо вполне возможно.
Где- такое обсуждалось? Или я изобрел велосипед?

 

Знаешь, какую логику это напоминает?
Зачем нужно звуковое кино, если немое так прекрасно?
Зачем нужно цветное кино, если ч/б так прекрасно?
Зачем нужно телевидение, если есть радио?
Зачем нужно цветное телевидение? В нем нет дополнительной информации.

А это уже, как сравнение театра и кино. Если считать, что театр с душой, а кино без (чего считать, разумеется, нельзя), то хороших театров десятки и кинотеатров миллионы.
А душу я скорее чувствую в музыке сочиненной человеком, а не ИИ. В исполнительстве предполагаю такая разница менее заметна.
Сочинение гениальной музыки - процесс непосредственно завязанный на Бога, скорее неподдающийся оцифровыванию на 100%. А исполнительство - вполне можно представить эти 100%.

 

Уже пару недель думаю с вами поделиться своими мыслями по этому поводу, т.к., неожиданно, с месяц назад стал углубляться в эту тему со стороны технической, программирование и вообще технология машинного обучения, создание нейросетей и подобные вопросы. В этику я не углублялся, но вот тут раз - и наткнулся на эту ветку. Супер! Так что смогу с другой стороны подкинуть идей для размышления.
Пока много работы - скину очень хорошую статью. Это текст с картинками из выступления Андрея Карпаты, одного из специалистов Тесла, связанных с их ИИ. Отличный пример того, с какими проблемами сталкиваются передовые разработчики в области ИИ.

https://habr.com/ru/post/450796/