Masterok (Валерий) (masterok) wrote,
Masterok (Валерий)
masterok

Category:

Ученые обманывают искусственный интеллект



Все мы ждем того момента, когда искусственный интеллект, программы, техника научиться делать практически тоже, то и мы. Это все вполне реально. Но пока что мало кто задумывается, что все равно этот процесс не будет одинаков у машин и людей.

Вот например Группа исследователей из университета Кюсю открыла способ обманывать программы по распознаванию образов, изменив один-единственный пиксель на изображении. Этот пиксель расположен так, что он сбивает с толку нейросети, отвечающие за идентификацию, и они начинают принимать собак за кошек, а лошадей за машины.



Тестовые изображения были ограничены всего тысячей пикселей, но в случае более высокого разрешения и миллионов пикселей правило также работает. Только изменять надо не один пиксель, а несколько сотен.

Вторая группа исследователей, на этот раз из Массачусетского технологического института, умудрилась пойти еще дальше. Они смогли напечатать с помощью 3D-принтера скульптуру черепахи, которую программа, даже разглядев со всех сторон и под любым углом, приняла за винтовку. Этот эксперимент представляет куда большую проблему для технологии распознавания образов, так как все дело происходило в реальности, а программе позволили проанализировать объект со всех углов, но она все равно не определила его подлинную форму.

Вместе оба исследования показывают, какой путь предстоит пройти роботам и программам, прежде чем они достигнут человеческого уровня. В конце концов, наш мозг не обмануть, заменив один или даже сотню пикселей.

Жаль только, что в источниках не приводятся разъяснения, как это так получается обмануть программу. А вы что думаете? В чем секрет "битых пикселей" и как можно обмануть с 3Д моделью?

[источники]источники
https://www.popmech.ru/technologies/394772-cherepaha-kak-vintovka-uchenye-obmanyvayut-iskusstvennyy-intellekt/




Tags: Роботы
Subscribe

Posts from This Journal “Роботы” Tag

promo masterok январь 2, 2018 12:00 51
Buy for 200 tokens
Вот так выглядит трафик в блоге 2020 год по месяцам. Это более ТРЕХ МИЛЛИОНОВ просмотров в месяц, среди которых не только залогиненные в ЖЖ , но и любые просмотры из поисковых систем. При этом за месяц приходит около МИЛЛИОНА посетителей. Статистика Google Analytics за месяц 2020 года (…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 13 comments

Posts from This Journal “Роботы” Tag