?

Log in

No account? Create an account

masterok


Мастерок.жж.рф

Хочу все знать


Previous Entry Share Next Entry
7 причин бояться роботов
masterok


Все чаще и чаще люди начинают обращать внимание на то, что роботы вырвались за пределы фантастических фильмов и стали частью реального мира. Да, они сейчас не имеют самостоятельности и пока что наращивают физические возможности и тренируют интеллект по заданию человека. Но удастся ли нам сохранить контроль над ними, когда человек захочет дать им волю? Как зачем! Затем, чтобы якобы упростить себе еще по максиму жизнь ну и ради познания нового и простого любопытства.

Вот почему стоит бояться роботов...



1. Роботы гораздо быстрее нас.

Самый быстрый человек — ямайский легкоатлет Усейн Болт — имеет 8 золотых олимпийских медалей. Но даже ему не удастся перегнать четвероногого робота Cheetah, разработанного компанией Boston Dynamics.







2. Они легко обманывают нас.

В сентябре 2012 года 2K Games провели конкурс с искусственным интеллектом. Разработчикам предлагалось создать бота, который сможет имитировать поведение живых игроков в Unreal Tournament 2004. Степень «человечности» оценивали обычные игроки, которые имели судейское оружие и могли пометить любого персонажа как «живого» или как «бота». В результате первое место поделили техасский бот UT2 и румынский MirrorBot. Оба искусственных интеллекта получили оценку человечности в 52%. Самое удивительное, что реальные игроки имели среднюю оценку не выше 40%.







3. Они работают в команде.

Ученые из университетов Сассекса и Шеффилда создают нейронную модель для летающих дронов, опираясь на структуру мозга пчелы. По словам доктора Джеймса Маршалла, «простые организмы, такие как социальные насекомые, имеют удивительно развитые познавательные способности» и «они доступнее для исследований, чем мозг позвоночных животных». Если эта новость вас не напугала, задумайтесь: на что в перспективе способны дроны, которые ориентируются в пространстве и работают в команде как «единое целое»?







4. Они могут ходить по воде.

Китайские инженеры создали робота-водомерку, способного не только передвигаться по воде, но и совершать внушительные прыжки. Разработчики нанесли на конечности робота пористую никелевую пену, которая обладает водоотталкивающими свойствами. Водомерка весит 11 грамм и прыгает на высоту 14 сантиметров в высоту.







5. Они гораздо менее уязвимы, чем мы.

Перед вами робот-дождевой червь, созданный инженерами из Массачусетского технологического института. На видео исследователи демонстрируют нам, насколько устойчив этот робот: его нельзя перевернуть или сбить с ног, ведь конечностей попросту нет. Еще рано утверждать, что роботы стали полностью неуязвимыми. Но инженеры работают в этом направлении.







6. Как только робот осознает себя как личность, он подвергнет сомнению господствующее положение человека. Исследователи Йельского университета активно работают над этим. Ученые уже представили общественности робота Нико, который понимал, что его левая рука в отражении на самом деле правая. Ждем продолжения.








7. Восстание роботов больше не считается фантастикой:

Кембриджский университет допускает вероятность войны между человеком и машиной. Центр по изучению экзистенциальных рисков рассматривает сценарий, в котором машины обретут разум и самостоятельность. Естественно, интересы роботов вряд ли совпадут с интересами людей. Будем надеяться, что ученым удастся спасти человечество.

[источники]
источники
https://www.popmech.ru/technologies/414002-7-prichin-boyatsya-robotov


А я вам еще напомню, как ИИ победил человека в Го, обыграл людей в покер, создал нейросеть. Вот еще как компьютер обманул человека и как нейросеть победила сильнейшую шахматную программу

Subscribe to  masterok

Posts from This Journal by “Роботы” Tag

  • Полноценный АВАТАР!

    Мне кажется это уже очень полезно и вполне применимо в отличии например от собачек "Бостон Динамикс". Это же можно удаленно работать в сложных…

  • Он уже готов?

    Ну да, это зачет! Практически готов. Однако остается все то же "но"... ... аккумуляторов как не было так и нет. На сколько этому роботу хватит…

  • Робот-парусник впервые пересек Атлантику

    Медленно, медленно но начинают появляться и тестироваться роботы-автомобили, грузовики, самолеты, корабли. И вот двухметровая парусная лодка,…


promo masterok january 2, 12:00 46
Buy for 300 tokens
Вот так выглядит ушедший от нас 2017 год. А вот кстати, начало 2018 года показывает еще больший трафик, чем декабрь 2017: И вот один из дней - рекордсменов за всю историю журнала тоже уже в 2018 году: Красная цифра - это общее количество уникальных посетителей попавших в блог. В…

  • 1
до восстания еще далеко.. а вот "водомерка" снимающая меня голого в душе это опасно конечно))

интересно, что нет наиболее реальной, и прямо сейчас имеющейся опасности для огоромного количества людей

именно сейчас конечно нет. Все дело в самоорганизации и самостоятельном функционировании роботов. Вот когда ИИ смогут вмещать в робота - тогда будет уже опасно.



А вот вишь, в газете-то пишут - не надо, мол, бояться человека... то есть эта, как его, терминатора с ружьём. Сара Коннор какая-то пишет. Должно быть, в Бунде начинала или эсэркой...

Дело не в ИИ и его мощности.

Дело в другом - в сочетании нескольких неумолимых тенденций, которое и дает 100% гарантию "победы роботов".

А тенденции следующие:

1. Робототехника (включая ИИ) становится все более сложной и недоступной всеобъемлющему контролю со стороны человека. И это касается не только сугубо технической сложности, но и - в первую очередь - алгоритмов, которыми руководствуется ИИ. Т.е. поведение робота (в широком смысле) для человека неизбежно становится не прямо детерминированным, но лишь статистически предсказуемым. Т.е. человек НЕИЗБЕЖНО теряет контроль над поведением (опять же в широком смысле) роботов. И путей предотвращения этой тенденции даже теоретически не существует.

2. Роботы (и ИИ, и механизмы и пр.) во все большей степени НЕИЗБЕЖНО оснащаются "защитой от дурака" (в самом широком смысле слова) - т.е. все большие сферы их "жизнедеятельности" защищаются от внешнего вторжения кого бы то ни было, способного нарушить функциональность или повлиять на алгоритмические, интеллектуальные действия. И эта тенденция универсальна - от банальной защиты протоколов обмена данными, до физической защиты агрегатов. И эта тенденция НЕОТМЕНИМА, поскольку в сферу роботизации попадают все более ответственные сферы деятельности, в которых внешнее вмешательство фатально и чревато сбоями и катастрофами. Уже сегодня это обычное явление - защита автопилота, защита блоков управления атомной станции и пр.

3. В вопросах "защиты от дурака" роботы НЕИЗБЕЖНО получают и будут получать все большую автономию. Внедряясь в среду, требующую сложного адаптивного поведения, системы сами определяют критичные звенья, куда вмешательство недопустимо. Например, в режиме штатного полета отключить автопилот можно банальным тумблером. Но в критическом режиме автопилот сделать этого уже не позволит. И это реализовано уже сегодня. А завтра сфера самоконтроля ИИ станет для человека также лишь статистически предсказуемой. Т.е. некий "главный тумблер" (о котором любят рассуждать скептики), находящийся в руках Человека, уже сегодня становится некой условностью...

4. Сфера ИИ идет по пути самообучающихся, саморазвивающихся алгоритмов, и формируемая ИИ "математическая модель мира" также для человека становится непредсказуемой и не подконтрольной. С учетом предыдущей тенденции "мир ИИ" (и его прикладного физического воплощения - роботов) НЕИЗБЕЖНО становится для человека партнерским, где Человек уже не является полновластным демиургом с "тумблером".

5. Сфера робототехники движется по пути "саморемонта", "самопроизводства" и "самопроектирования". Для обывателя эта тенденция не столь очевидна, ему все еще кажется, что все делают "китайцы" на коленке. Но специалисты понимают, о чем речь. И эта тенденция не прихоть разработчиков - это НЕИЗБЕЖНОЕ следствие трех предыдущих тенденций. Но из всего этого следует, что Человек в скором будущем утратит контроль и над производством, и над разработкой объектов робототехники (включая ИИ).

В результате одновременного продолжительного действия всех пяти НЕОТВРАТИМЫХ тенденций со 100% вероятностью вытекает, что в отдаленной перспективе человечество будет восприниматься Разумом лишь в качестве давно пройденной "биологической стадии эволюции". И уже сегодня человечество ничего с этим поделать не может. Не может принципиально, теоретически, закономерно.

Единственный "выход" для Человека - это сознательное цивилизационное тотальное самоуничтожение и возврат на ближайшие 10-15 тысяч лет к камню, дубине и собирательству кореньев... Но и этот "путь" рано или поздно приведет "новое" человечество туда же и ровно тем же самым путем.

Edited at 2018-03-13 03:13 pm (UTC)

Вы вообще кто по профессии? Судя по пятому пункту - доктор робототехники, как минимум? Это сарказм, не похожи вы на доктора робототехники.

Что вы вообще обсуждаете - что это за "роботы"? Где они, как вам удалось так близко с ними познакомиться? Подозреваю, что в книжках Азимова и в фильме про терминатора - больше просто негде. Роботов-то нет. По крайней мере таких, о которых вы рассуждаете. Даже сделанных китайцами.

Вот купите себе робота-пылесоса в дом, понаблюдайте за ним лет пять - и тогда да, к вашим "НЕОТВРАТИМЫМ тенденциям" можно прислушаться.

А робот-пылесос это самое близкое соответствия реальности тем выдумкам, которые вы проанализировали.

Совет - не бойтесь "робота". Бойтесь вполне реального компа. В софте той хрени, с которой вы пишите коммент, реально куча непонятного, избыточного, дублирующегося и недостижимого кода, там вполне может спрятаться этот ваш "Разум". Опасность его в том, что вы не видите в нем страшного "робота", а видите друга и помощника, которому доверяете тайны и вот эти свои рассуждения. А он, как минимум, вам не друг. Может, он никому не друг. А может - кому-то да друг. Но точно не вам. Подумайте над этим.

*Я знаю ответ на любой вопрос* сказал Гугл.
*Без меня бы тебе это не удалось* сказал Интернет.
*Да где вы оба без меня были бы* сказал компьютер.
*НУ-НУ* тихо подумало электричество!!!

Автомобиль с роботизированной коробкой передач давно может обогнать любого ямайского легкоатлета - почему бы не бояться их?

Повеселило про робочервя, которого нельзя сбить с ног потому что ему не приделали ног. Если у вас нету ножек, то с них не собьет вас сосед, ага.

Что касается перспективы обретения роботами самосознания - такой перспективы стоит бояться, да. Но не только от роботов. Если коровы или свиньи обретут самосознание, то направление их мысли человечество тоже не порадует. Если самосознание обретут утюги и пылесосы - не говоря уж про соцсети - тоже будет невесело. А это как минимум ничуть не менее вероятно, чем обретение сознанием той побегушки от бостон дайнамикс, или робочервя.

Короче, в ком-то проснулся журналюга, и описался от страха.

Вы полагаете, соц.сети реально могли бы обрести самосознание?

Этот червь больше для фаллоимитатора подходит.

Расизм какой-то...
Ну и конспирология, само собой.

Пойду раздолблю свой пылесос пока не взбунтовался

роботы уже начали уничтожать человека. Кому нужны сотни токарей, слесарей, ещё немного и водителей, если сотню может заменить один робот. Кому нужны редакторы, верстальщики, переводчики, да же проектировщики - если это уже заменяют машины. Эти люди уже лишние и те, кто вкладывает деньги в производство или уже начинают подумывать: "а зачем вообще столько народа", или скоро придут к выводу, что вся эта толпа лишняя. И начнется истребление, которое уже, впрочем идёт помаленьку, и вовсе для этого не нужно железных монстров с красными глазами, люди справятся друг с другом сами...

О. Еще один конспиролог.

"Кембриджский университет допускает вероятность войны между человеком и машиной"
И все равно все делает в этом направлении))
К сожалению, это в нас заложено.
И если раньше просто не хватало мощности, чтобы уничтожить самих себя, сейчас эта "проблема" снята.
Курок потихоньку взводится!

  • 1