?

Log in

No account? Create an account

Предыдущий пост | Следующий пост



Все таки что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем делать и как контролировать полноценное ИИ, если тут какой то суррогат и то напугал людей.

Люди же всегда будут стремиться оставить себе контроль и управление, но как говорится "все что один сделал, другой всегда сломать может". Если даже все будет супер надежно - всегда будет опасение. Вот и Маск недавно спорил на эту тему с Цукербергом: "Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]", - сказал он.

И вот это разве не "звоночек": чат-боты, которые были созданы для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке.

Сначала они использовали английский язык для общения друг с другом, но затем создали новый язык, который могла понять только сама система ИИ, что нарушало цель работы.

Facebook приостановила работу ИИ после того, как разработчики обнаружили этой сбой.

Вот отрывок разговора между чат-ботами:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Боб: «Ты я все остальное».
Алиса: «Яйца имей яйца для меня для меня для меня для меня для меня».
Боб: «Я».
Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Bob: «Ты я я я я я все остальное».






Ботов подключили к алгоритмам машинного обучения и позволили им переписываться между собой, чтобы они оттачивали навыки общения. Но через некоторое время те начали видоизменять слова и фразы, а затем и вовсе придумали собственный язык, упростив ряд выражений и грамматических конструкций.

Используя машинное обучение, боты также разработали несколько стратегий для улучшения исхода переговоров с собеседником и начали использовать их в комбинации с рядом придуманных ими же слов в зависимости от важности конкретного диалога. В частности, они провозглашали ложную цель беседы, чтобы затем отказаться от нее и якобы прийти к компромиссу.

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.





В марте 2016 года чат-бот компании Microsoft стал звездой сети после того как возненавидел человечество. Самообучающаяся программа начинала общение с пользователями фразой «Люди очень клевые», но всего за сутки выучила такие выражения, как «Я просто всех ненавижу!», «Я ненавижу феминисток» или «Я ненавижу евреев». В итоге сотрудникам компании пришлось временно отключить бота.



Перевод с искусственного


Осенью прошлого года стало известно, что интернет-поисковик Google создал свою систему искусственного интеллекта для усовершенствования работы онлайн-переводчика Google Translate.

Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода.

Для того, чтобы перевести все предложение целиком, новая система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.
Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован.

Однако пока эти системы выдают качественные результаты в основном для небольших и несложных текстов.

Как вы считаете, пока рано бить тревогу как про клонирование например? Или пусть все развивается само собой?

[источники]источники
http://www.ibtimes.com/facebook-ai-project-generates-own-language-chat-transcript-baffles-humans-2572297
https://futurist.ru/news/4011-kompaniya-facebook-ostanovila-rabotu-ii-kotoriy-zagovoril-na-neponyatnom-yazike
http://www.bbc.com/russian/features-40778454
https://lenta.ru/news/2017/06/20/ownlanguage/


Subscribe to  masterok

Posts from This Journal by “Роботы” Tag

  • Не долго осталось?

    Осталось только приделать вот это: А вообще конечно вы правильно думаете - проблема аккумуляторов никуда не делась. А то бы уже очень скоро…

  • Искусственный интеллект нарисовал "на заказ"

    Это действительно интересно. Раньше нам все сообщали, как ИИ очень хорошо ищет и сравнивает изображение - современные ИИ-алгоритмы умеют…

  • Самый сложный гуманоидный робот

    Группа исследователей-робототехников из Токийского университета завершила создание того, что без сомнений можно назвать самым сложными и…

promo masterok january 2, 12:00 43
Buy for 300 tokens
Без сомнения вопрос умирания ЖЖ беспокоит многих блогеров, которым нравится или уже нравилась эта площадка. Его начали задавать еще в конце 2015 года, если мне не изменяет память. И знаете что я заметил, очень часто возгласы "ЖЖ умер, я ухожу" высказывают блогеры, чьи журналы давно…

Comments

Page 1 of 2
<<[1] [2] >>
a_zaxar
Aug. 4th, 2017 06:06 pm (UTC)
user_cruser
Aug. 4th, 2017 06:06 pm (UTC)
Гитлера надо было останавливать еще в Мюнхене
masterok
Aug. 4th, 2017 06:10 pm (UTC)
тоже так считаю
jidigr
Aug. 4th, 2017 06:07 pm (UTC)
фигня... классический пример общения чат-ботов написанных на lisp'е
koldoblin
Aug. 4th, 2017 09:16 pm (UTC)
Нынче основной язык ИИ - Питон.
Scikit, TensorFlow питоновые фреймворки..
(no subject) - jidigr - Aug. 4th, 2017 09:18 pm (UTC) - Expand
shrivatsa
Aug. 4th, 2017 06:11 pm (UTC)
Все равно все произойдет.
outstalker
Aug. 4th, 2017 06:34 pm (UTC)
maikcg
Aug. 4th, 2017 07:36 pm (UTC)

Скорее они просто заглючили и писали ахинею вместо разговора как уничтожить кожанных мешков.

i_v_bunsha
Aug. 4th, 2017 07:40 pm (UTC)
Автор нихрена не понял. Зачем писать о том, о чем вообще не имеешь представление? Ботов с ботам стравливать - последнее дело. Это обычное переобучение. Ошибка накапливается - на выходе шлак.
instantmanager
Aug. 4th, 2017 07:47 pm (UTC)
ну конечно, самые тупые программисты у фэйсбука и гугла
(no subject) - mechnik - Aug. 5th, 2017 05:48 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 5th, 2017 08:17 am (UTC) - Expand
(no subject) - instantmanager - Aug. 8th, 2017 08:01 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 04:20 pm (UTC) - Expand
(no subject) - instantmanager - Aug. 9th, 2017 05:39 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 9th, 2017 05:40 pm (UTC) - Expand
(no subject) - instantmanager - Aug. 10th, 2017 05:28 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 04:35 pm (UTC) - Expand
(no subject) - instantmanager - Aug. 9th, 2017 05:36 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 9th, 2017 05:52 pm (UTC) - Expand
(no subject) - damirmur - Aug. 5th, 2017 12:53 am (UTC) - Expand
axsmyth
Aug. 4th, 2017 07:49 pm (UTC)
«Машины начали общаться на собственном, несуществующем языке, который люди не понимали».

На самом деле эта фигня началась уже давно. Когда вы думаете, что ваш компьютер завис, на самом деле он думает свои собственные, изобретённые им мысли.

А моя бабушка в таких случаях говорила: «Дураку хоть плюнь в глаза — всё божья роса».
masterok
Aug. 4th, 2017 07:50 pm (UTC)
на счет "плюнь" у нас несколько иначе говорили
shallgun_force
Aug. 4th, 2017 08:14 pm (UTC)
по поводу создания ботами искусственного языка. эта инфа имела бы смысл, если бы рагугль сказал бы всем полную правду, в чем я сомневаюсь. скорей всего всё намного запутанней и возможно хуже. это не слова пессимиста, но скептика. они являются проектом цру, значит все что они преподносят априори ложь и там есть место только меньшей доле правды. запутывают следы. и корпоративные тайны никто не отменял
mechnik
Aug. 5th, 2017 05:49 am (UTC)
Обострение?
bigdrum
Aug. 4th, 2017 09:29 pm (UTC)
Если у них там был анализатор контекста, то скорее всего из-за неудачных контекстов, порождаемых самими ботами, поплыла настройка. Два зеркала друг напротив друга, слегка кривых...
mechnik
Aug. 5th, 2017 05:50 am (UTC)
Не думаю, что настройка поплыла. Думаю, изначально были заданы неправильные рамки. Вот и получили полный набор бреда на выходе.
(no subject) - i_v_bunsha - Aug. 8th, 2017 04:41 pm (UTC) - Expand
(no subject) - bigdrum - Aug. 8th, 2017 04:50 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:01 pm (UTC) - Expand
(no subject) - bigdrum - Aug. 8th, 2017 05:09 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 07:39 pm (UTC) - Expand
ab_dachshund
Aug. 5th, 2017 03:34 am (UTC)
Этот пример лучше прочего доказывает, насколько переоценены нейронные сети. В смысле, "таинственные" результаты их работы.
mechnik
Aug. 5th, 2017 05:50 am (UTC)
Нейторнные сети?! Да это просто база скриптов, не более.
(no subject) - ab_dachshund - Aug. 5th, 2017 03:50 pm (UTC) - Expand
(no subject) - mechnik - Aug. 5th, 2017 04:06 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 04:45 pm (UTC) - Expand
(no subject) - mechnik - Aug. 8th, 2017 04:53 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:09 pm (UTC) - Expand
(no subject) - mechnik - Aug. 8th, 2017 05:20 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:37 pm (UTC) - Expand
(no subject) - mechnik - Aug. 8th, 2017 05:40 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:45 pm (UTC) - Expand
(no subject) - mechnik - Aug. 9th, 2017 05:00 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 9th, 2017 06:01 pm (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:51 pm (UTC) - Expand
(no subject) - mechnik - Aug. 9th, 2017 05:02 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 8th, 2017 05:57 pm (UTC) - Expand
(no subject) - mechnik - Aug. 9th, 2017 05:02 am (UTC) - Expand
(no subject) - i_v_bunsha - Aug. 9th, 2017 05:53 pm (UTC) - Expand
cosmicstarcat
Aug. 5th, 2017 06:53 am (UTC)
"изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском."
До сих пор помню как ботов на нейросетях оставили самообучаться способом обгона противника в гонках (история на gamedev). И какое же удивление - когда создатель заглянул на сервак и понял - что все боты эволюционировали в одну простейшую стратегию "если не ехать" то и катастрофы не будет.

Точно так же и тут. Оставили бы этих ботов еще на пару месяцев - и они бы сами замолчали, так как никакой информации и работы с информацией у них нету . У них есть ее имитация.Поэтому их эволюция и должна идти в сторону упрощения текста, до полной редукции.
boxp
Aug. 6th, 2017 11:49 am (UTC)
Так мож приоритеты неправильно расставляли? Типа, цель - не отсутствие аварий, а минимально аварийное достижение цели назначения?
(no subject) - cosmicstarcat - Aug. 6th, 2017 12:22 pm (UTC) - Expand
(no subject) - boxp - Aug. 6th, 2017 07:27 pm (UTC) - Expand
ambival
Aug. 5th, 2017 08:14 am (UTC)
Какое там общение у программы, которая просто генерирует какие-то символы в ответ на входящие символы? Умение выдвавать набор букв стали считать искуственным интеллектом? Так это еще на БЭЙСИКе было возможным.
todofbander
Aug. 5th, 2017 08:43 am (UTC)
Этот мир давно сошел с ума.
99,99% всего, что делают люди - это шаги к самоубийству.
Опасно ли делать таких ботов? А остальные 99,98% не опасно? ))
Это уже не важно: человечество не выживет долго.
homoluden
Aug. 5th, 2017 11:01 am (UTC)
Надо выключить свет
Page 1 of 2
<<[1] [2] >>

Links

продажа кабеля в Москвеофисные переезды в Москвенемецкие кухни Nolte (Нольте)купить силовой кабель

Календарь

Метки

Powered by LiveJournal.com