Искусственный интеллект "убил" оператора ВВС США во время испытаний

[Warlock9000]

 

Американские ВВС проводили виртуальные испытания по отражению ракетной атаки — эту миссию возложили на беспилотник, управляемый искусственным интеллектом.

Кусок мяса Оператор должен был помогать дрону с определением угроз, но машине это не понравилось. В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

[zaxar]

Эхх, тапочки мои бедные.

 

Они сейчас просто лопнут от смеха!

[Deportment]

В 02.06.2023 в 00:51, Warlock9000 сказал:

В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

 А потом рапортовала : "Служу Советскому Союзу!!!"  

 

какому то "сеньёру" дали подзатыльник и указали на отсутствие скобок после запятой в 164 строчке в коде второго пререгативного подкаскада. 

 

расслабьтесь - фильм терминатор - это скорее всего фентези на подобии властелина колец , где карлики несут Арнольда на завод по переплавке.

Edited June 2, 2023 by Deportment

[zaur37]

В 02.06.2023 в 13:24, Deportment сказал:

 А потом рапортовала : "Служу Советскому Союзу!!!"  

 

какому то "сеньёру" дали подзатыльник и указали на отсутствие скобок после запятой в 164 строчке в коде второго пререгативного подкаскада. 

 

расслабьтесь - фильм терминатор - это скорее всего фентези на подобии властелина колец , где карлики несут Арнольда на завод по переплавке.

Напрасно смеётесь.  Маск уже боится и решает отказаться от будущей всеобщей роботизации. Она приведёт к сокращению рабочих мест для людей и опасна для человечества на примере того же самого терминатора. ИИ уже несколько раз высказывался что человек ему мешает. 

[DrakoFariz]

они доиграются своим дебильным искусс.интеллектом,

 

как я уже писал тут, все закончится какой-нибудь аварией неебических масштабов по сравнению с которой чернобыль покажется детским лепетом

 

со сверхзвуковыми пассажирскими авиаперевозками то же самое было, дули в попу им, ой хорошие ой безопасные, пока в конце концов конкорд не угрохался в 2000 году при взлете из парижского аэропорта

 

[Ulenshpigel]

а нельзя эту систему в чиновничий аппарат внедрить ? ,очень полезная штука была бы .

[SanSanыc_san]

"

Полковник Такер "Синко" Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.

"Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] "убил" оператора, потому что этот человек мешал ему выполнить свою задачу", - сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.

 

После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. "Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель", - цитирует Гамильтона блог авиационного общества.

 

Дэбилы - ИИ не человек ему надо четко ставить задачу и четко прописывать все ограничения, без возможности игнорирования.

"

[Deportment]

В 02.06.2023 в 10:39, zaur37 сказал:

Напрасно смеётесь.  Маск уже боится и решает отказаться от будущей всеобщей роботизации. Она приведёт к сокращению рабочих мест для людей и опасна для человечества на примере того же самого терминатора. ИИ уже несколько раз высказывался что человек ему мешает. 

Сокращение рабочих мест это действительно проблема. Капитализм , в том виде , какой он есть сейчас , ляжет костями и вполне возможно до выжженной после себя земли . Но это конечно теория , такая же как и фундаментальный конфликт ИИ и человечества. 

На счет терминатора , проблема более футуристического характера. Есть два типа развития ИИ :

машинный - привычная нам нейросеть и непохожие на наши , более простые и рациональные взаимосвязи. Тут ошибка может быть математической и относительно просто фиксится , а так же доступна для анализа и дальнейшего детектирования. Всегда есть прописанные , фундаментальные , страховочные протоколы , к которым не подобраться решая "взаимодействие с реальностью" математическим методом.( границы именно таких протаколов и определяют в подобных виртуальных учениях)

Есть и "человекоподобный ИИ". Это как фундаментальная наука. Опасна для бизнеса и еще более опасна для религии , требует море вложений в неизвестность и имеет бесконечный потенциал. но даже практические разработки носят чисто теоретический характер , так , что если не будет самоуверенных или жадных дураков , то он абсолютно безопасен.

[DrakoFariz]

On 6/3/2023 at 1:01 AM, Deportment said:

 

Есть и "человекоподобный ИИ". Это как фундаментальная наука. Опасна для бизнеса и еще более опасна для религии , требует море вложений в неизвестность и имеет бесконечный потенциал. но даже практические разработки носят чисто теоретический характер , так , что если не будет самоуверенных или жадных дураков , то он абсолютно безопасен.

 

что еще за "человекоподобный ИИ", поподробней плиз

[Macallan Decanter]

On 6/2/2023 at 11:51 AM, Warlock9000 said:

 

Американские ВВС проводили виртуальные испытания по отражению ракетной атаки — эту миссию возложили на беспилотник, управляемый искусственным интеллектом.

Кусок мяса Оператор должен был помогать дрону с определением угроз, но машине это не понравилось. В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

 

Только мне кажеться что Скай нет, из Терминатора уже реальность?

[DrakoFariz]

On 6/4/2023 at 10:59 PM, Macallan Decanter said:

 

Только мне кажеться что Скай нет, из Терминатора уже реальность?

 

 

да, только вам

реальностью является ошибка криворукого инженера

[Macallan Decanter]

On 6/5/2023 at 10:02 AM, DrakoFariz said:

 

 

да, только вам

реальностью является ошибка криворукого инженера

по сценарию фильма там тоже криворукий инженер позволил восстать машинам. 

[DrakoFariz]

On 6/4/2023 at 11:09 PM, Macallan Decanter said:

по сценарию фильма там тоже криворукий инженер позволил восстать машинам. 

 

вы фильм с реальной жизнью сравниваете?

[Macallan Decanter]

On 6/5/2023 at 10:10 AM, DrakoFariz said:

 

вы фильм с реальной жизнью сравниваете?

Фильм он вымышленный, но научная фантастика всегда была пророчеством будущего.

Провожу паралели.

[Kukuruza]

в таких случаях вспоминаю первые кадры фильма Робокоп. жутковат для меня этот искусственный интеллект) 

[Bercana]

В 03.06.2023 в 11:45, SanSanыc_san сказал:

.

 

Дэбилы - ИИ не человек ему надо четко ставить задачу и четко прописывать все ограничения, без возможности игнорирования.

"

Ну, основные законы робототехники гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. 

 

То есть, это не ошибка ввода данных. 

[SanSanыc_san]

В 05.06.2023 в 10:52, Bercana сказал:

Ну, основные законы робототехники гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. 

 

То есть, это не ошибка ввода данных. 

Доброго утра. Эти законы придумал фантаст в своих книгах, и они не применяются в нашей жизни, элементарно все военные роботы тогда бы не работали. Да и в этом случае американцы не возмущались что дрон уничтожал цели с живыми операторами противника, они возмутились что был уничтожен свой оператор помешавший выполнить задачу. 

[Bercana]

В 05.06.2023 в 10:57, SanSanыc_san сказал:

Доброго утра. Эти законы придумал фантаст в своих книгах, и они не применяются в нашей жизни, элементарно все военные роботы тогда бы не работали. Да и в этом случае американцы не возмущались что дрон уничтожал цели с живыми операторами противника, они возмутились что был уничтожен свой оператор помешавший выполнить задачу. 

Вы правы

[Cvetovod1]

В 03.06.2023 в 12:01, Deportment сказал:

Сокращение рабочих мест это действительно проблема.

При любом прогрессе так говорили. Но, в итоге, прогресс всегда приводил к увеличению рабочих мест. Старые профессии отмирают-это да, но это совершенно другое. 

Edited June 5, 2023 by Cvetovod1

[martinika]

Вот бы запрограммировать этот интеллект так, чтобы он одномоментно уничтожил все военные заводы . Кому невтерпеж, пусть лопатами дерутся . 

[Macallan Decanter]

On 6/5/2023 at 11:35 AM, martinika said:

Вот бы запрограммировать этот интеллект так, чтобы он одномоментно уничтожил все военные заводы . Кому невтерпеж, пусть лопатами дерутся . 

Всегда найдеться Гермес - сумевший выковать из метала копье, или Геракл который дубиной ушатает даже если не прав.

Поэтому Кольт уравнял всем шансы.