Jump to content
Модераторы форума - Assembler & Bercana
  • Откройте аккаунт на Диспуте за 5 минут

    Продаете недвижимость, машину, телефон, одежду?  Тысячи  просмотров ежедневно на dispute.az  помогут вам. Бесплатная доска обьявлений.

Искусственный интеллект "убил" оператора ВВС США во время испытаний


Recommended Posts

4928.thumb.jpg.724187183ac06b862e53c0c413ac823b.jpg

 

Американские ВВС проводили виртуальные испытания по отражению ракетной атаки — эту миссию возложили на беспилотник, управляемый искусственным интеллектом.

Кусок мяса Оператор должен был помогать дрону с определением угроз, но машине это не понравилось. В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

  • Haha 5
Link to comment
Share on other sites

В 02.06.2023 в 00:51, Warlock9000 сказал:

В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

 А потом рапортовала : "Служу Советскому Союзу!!!"  :lol:

 

какому то "сеньёру" дали подзатыльник и указали на отсутствие скобок после запятой в 164 строчке в коде второго пререгативного подкаскада. 

 

расслабьтесь - фильм терминатор - это скорее всего фентези на подобии властелина колец , где карлики несут Арнольда на завод по переплавке.

Edited by Deportment
  • Like 1
  • Haha 2
Link to comment
Share on other sites

В 02.06.2023 в 13:24, Deportment сказал:

 А потом рапортовала : "Служу Советскому Союзу!!!"  :lol:

 

какому то "сеньёру" дали подзатыльник и указали на отсутствие скобок после запятой в 164 строчке в коде второго пререгативного подкаскада. 

 

расслабьтесь - фильм терминатор - это скорее всего фентези на подобии властелина колец , где карлики несут Арнольда на завод по переплавке.

Напрасно смеётесь.  Маск уже боится и решает отказаться от будущей всеобщей роботизации. Она приведёт к сокращению рабочих мест для людей и опасна для человечества на примере того же самого терминатора. ИИ уже несколько раз высказывался что человек ему мешает. 

  • Like 1
Link to comment
Share on other sites

они доиграются своим дебильным искусс.интеллектом,

 

как я уже писал тут, все закончится какой-нибудь аварией неебических масштабов по сравнению с которой чернобыль покажется детским лепетом

 

со сверхзвуковыми пассажирскими авиаперевозками то же самое было, дули в попу им, ой хорошие ой безопасные, пока в конце концов конкорд не угрохался в 2000 году при взлете из парижского аэропорта

 

  • Like 1
  • Red Heart 1
  • Upvote 1
Link to comment
Share on other sites

"

Полковник Такер "Синко" Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.

"Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] "убил" оператора, потому что этот человек мешал ему выполнить свою задачу", - сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.

 

После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. "Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель", - цитирует Гамильтона блог авиационного общества.

 

Дэбилы - ИИ не человек ему надо четко ставить задачу и четко прописывать все ограничения, без возможности игнорирования.

"

  • Upvote 2
Link to comment
Share on other sites

В 02.06.2023 в 10:39, zaur37 сказал:

Напрасно смеётесь.  Маск уже боится и решает отказаться от будущей всеобщей роботизации. Она приведёт к сокращению рабочих мест для людей и опасна для человечества на примере того же самого терминатора. ИИ уже несколько раз высказывался что человек ему мешает. 

Сокращение рабочих мест это действительно проблема. Капитализм , в том виде , какой он есть сейчас , ляжет костями и вполне возможно до выжженной после себя земли . Но это конечно теория , такая же как и фундаментальный конфликт ИИ и человечества. 

На счет терминатора , проблема более футуристического характера. Есть два типа развития ИИ :

машинный - привычная нам нейросеть и непохожие на наши , более простые и рациональные взаимосвязи. Тут ошибка может быть математической и относительно просто фиксится , а так же доступна для анализа и дальнейшего детектирования. Всегда есть прописанные , фундаментальные , страховочные протоколы , к которым не подобраться решая "взаимодействие с реальностью" математическим методом.( границы именно таких протаколов и определяют в подобных виртуальных учениях)

Есть и "человекоподобный ИИ". Это как фундаментальная наука. Опасна для бизнеса и еще более опасна для религии , требует море вложений в неизвестность и имеет бесконечный потенциал. но даже практические разработки носят чисто теоретический характер , так , что если не будет самоуверенных или жадных дураков , то он абсолютно безопасен.

  • Like 1
  • Confused 1
Link to comment
Share on other sites

On 6/3/2023 at 1:01 AM, Deportment said:

 

Есть и "человекоподобный ИИ". Это как фундаментальная наука. Опасна для бизнеса и еще более опасна для религии , требует море вложений в неизвестность и имеет бесконечный потенциал. но даже практические разработки носят чисто теоретический характер , так , что если не будет самоуверенных или жадных дураков , то он абсолютно безопасен.

 

что еще за "человекоподобный ИИ", поподробней плиз

Link to comment
Share on other sites

On 6/2/2023 at 11:51 AM, Warlock9000 said:

4928.thumb.jpg.724187183ac06b862e53c0c413ac823b.jpg

 

Американские ВВС проводили виртуальные испытания по отражению ракетной атаки — эту миссию возложили на беспилотник, управляемый искусственным интеллектом.

Кусок мяса Оператор должен был помогать дрону с определением угроз, но машине это не понравилось. В ходе симуляции она "убила" человека, который "мешал" выполнению задачи своими командами. Когда системе запретили убивать оператора, она разрушила вышку, которая обеспечивала связь с ним.

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

 

Только мне кажеться что Скай нет, из Терминатора уже реальность?

  • Like 2
  • Haha 1
Link to comment
Share on other sites

On 6/4/2023 at 10:59 PM, Macallan Decanter said:

 

Только мне кажеться что Скай нет, из Терминатора уже реальность?

 

 

да, только вам

реальностью является ошибка криворукого инженера

  • Like 1
Link to comment
Share on other sites

On 6/5/2023 at 10:02 AM, DrakoFariz said:

 

 

да, только вам

реальностью является ошибка криворукого инженера

по сценарию фильма там тоже криворукий инженер позволил восстать машинам. 

Link to comment
Share on other sites

On 6/4/2023 at 11:09 PM, Macallan Decanter said:

по сценарию фильма там тоже криворукий инженер позволил восстать машинам. 

 

вы фильм с реальной жизнью сравниваете?

Link to comment
Share on other sites

On 6/5/2023 at 10:10 AM, DrakoFariz said:

 

вы фильм с реальной жизнью сравниваете?

Фильм он вымышленный, но научная фантастика всегда была пророчеством будущего.

Провожу паралели.

  • Like 1
Link to comment
Share on other sites

в таких случаях вспоминаю первые кадры фильма Робокоп. жутковат для меня этот искусственный интеллект) 

  • Like 1
Link to comment
Share on other sites

В 03.06.2023 в 11:45, SanSanыc_san сказал:

.

 

Дэбилы - ИИ не человек ему надо четко ставить задачу и четко прописывать все ограничения, без возможности игнорирования.

"

Ну, основные законы робототехники гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. 

 

То есть, это не ошибка ввода данных. 

Link to comment
Share on other sites

В 05.06.2023 в 10:52, Bercana сказал:

Ну, основные законы робототехники гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. 

 

То есть, это не ошибка ввода данных. 

Доброго утра. Эти законы придумал фантаст в своих книгах, и они не применяются в нашей жизни, элементарно все военные роботы тогда бы не работали. Да и в этом случае американцы не возмущались что дрон уничтожал цели с живыми операторами противника, они возмутились что был уничтожен свой оператор помешавший выполнить задачу. 

  • Like 1
Link to comment
Share on other sites

В 05.06.2023 в 10:57, SanSanыc_san сказал:

Доброго утра. Эти законы придумал фантаст в своих книгах, и они не применяются в нашей жизни, элементарно все военные роботы тогда бы не работали. Да и в этом случае американцы не возмущались что дрон уничтожал цели с живыми операторами противника, они возмутились что был уничтожен свой оператор помешавший выполнить задачу. 

Вы правы

  • Thanks 1
Link to comment
Share on other sites

В 03.06.2023 в 12:01, Deportment сказал:

Сокращение рабочих мест это действительно проблема.

При любом прогрессе так говорили. Но, в итоге, прогресс всегда приводил к увеличению рабочих мест. Старые профессии отмирают-это да, но это совершенно другое. 

Edited by Cvetovod1
  • Like 2
Link to comment
Share on other sites

Вот бы запрограммировать этот интеллект так, чтобы он одномоментно уничтожил все военные заводы . Кому невтерпеж, пусть лопатами дерутся . 

Link to comment
Share on other sites

On 6/5/2023 at 11:35 AM, martinika said:

Вот бы запрограммировать этот интеллект так, чтобы он одномоментно уничтожил все военные заводы . Кому невтерпеж, пусть лопатами дерутся . 

Всегда найдеться Гермес - сумевший выковать из метала копье, или Геракл который дубиной ушатает даже если не прав.

Поэтому Кольт уравнял всем шансы. 

Link to comment
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now
  • Our picks

    • Азербайджан остается в числе стран с самыми низкими ценами на бензин в мире
      Средняя цена бензина в мире составляет 1,35 доллара США за литр.
      Такие данные приводятся в еженедельном отчете Global Petrol Prices.
      Согласно отчету, в рейтинге низких цен на бензин Иран занял первое место - 0.029 долларов США за литр. Самым дорогим по стоимости бензина стал Гонконг (3,212 долларов США за литр).
      В ТОП-3 входят Ливия (0,031 долларов США за литр) и Венесуэла (0,035 долларов США).
      В первую десятку стран также входит Туркменистан, расположившийся на 8-ом месте (0,428 долларов США).
      В ТОП-15 входят Казахстан - 13-ое место (0,554 долларов США за литр) и Азербайджан - 15-ое место (0,588 долларов США за литр).
      Россия заняла 16-ое место - 0.609 долларов США за литр.
      В Азербайджане в настоящее время автомобильный бензин марки АI-92 производится только на Бакинском НПЗ. Его розничная цена составляет 1 манат за литр.
      https://media.az/society/azerbajdzhan-ostaetsya-v-chisle-stran-s-samymi-nizkimi-cenami-na-benzin-v-mire
      • 5 replies
    • В Баку директор турфирмы обманула более 200 человек на сумму порядка полмиллиона манатов
      В Баку женщина нанесла ущерб 202 людям на сумму 498 175 манатов.
      Об этом на своей странице в Фейсбук написал начальник Управления пресс-службы МВД, полковник-лейтенант полиции Эльшад Гаджиев.
        Отмечается, что директор ООО Avion Travel Лала Раджабова через социальную сеть давала пострадавшим ложные обещания решить визовые вопросы.
      Л.Раджабова арестована, расследование продолжается.
      https://1news.az/news/20240515043429897-V-Baku-direktor-turfirmy-obmanula-bolee-200-chelovek-na-summu-poryadka-polmilliona-manatov-FOTO
      • 3 replies
    • В Баку водитель автобуса отказался открыть пандус человеку в инвалидной коляске – ВИДЕО
      В Баку уволен водитель, отказавшийся открыть пандус человеку в инвалидной коляске.
      Об этом сообщили baku.ws в Агентстве наземного транспорта Азербайджана (АЙНА).
      ««АЙНА» предупредила перевозчика об обеспечении условий для посадки на регулярный автобусный маршрут лиц с ограниченными физическими возможностями. Перевозчику еще раз поручено следить за соблюдением водителями правил пассажирских перевозок и исправностью пандусов в автобусах. Водитель, допустивший ошибки, уволен», - говорится в сообщении.
      Ранее сообщалось, что в Баку между водителем автобуса и пассажиркой произошел конфликт.
        Причиной конфликта стало то, что автобусом хотел воспользоваться человек в инвалидной коляске, однако водитель не открыл для него пандус.
      Одна из пассажирок, снимавшая происходящее на камеру, потребовала от водителя открыть пандус человеку с ограниченными возможностями и после его отказа конфликт еще больше разросся. Женщина вышла из автобуса, позвонила в полицию и добилась того, чтобы мужчина в инвалидной коляске смог воспользоваться автобусом.
       
      • 30 replies
    • Построенный за три года отель в центре Баку снесли за три дня. Ночные работы по демонтажу вызвали недовольство граждан
      В Сабаильском районе Баку сносится здание, которое строилось три года.
      Как сообщает хezerxeber.az, строительство объекта вблизи мечети Бибиэйбат было начато три года назад. Однако позже были выявлены проблемы с документацией, поэтому вот уже несколько дней ведутся работы по демонтажу.
      По словам проживающих на данной территории граждан, раньше там стоял трехэтажный жилой дом. Затем жильцов переселили, и на месте старого здания начали возводить современный отел. Утверждается, что в ходе работ были нарушены строительные нормы.
      Как заявили по данному вопросу в Исполнительной власти Баку, снос указанного здания осуществляется на основе обращения Госкомитета по градостроительству и архитектуре, а также других соответствующих структур. Было отмечено, что объект был незаконно построен некоторое время назад в оползневой зоне, поэтому его необходимо снести как можно скорее, так как есть риск возникновения оползней в этом районе.
      Подробнее - в сюжете:
      https://ru.oxu.az/society/871188
      Снос трехэтажного здания в Сабаильском районе Баку в ночное время вызвал недовольство местных жителей.
      По их словам, из-за шума невозможно спать.
      "Они не достроили здание, которое возводили на протяжении двух лет. А теперь начали его сносить. Никто из нас не может нормально выспаться, а утром ведь нужно идти на работу. Разве можно проводить такие работы в три часа ночи? А как объяснить это маленьким детям?" - сказал один из граждан.
      Как заявили по данному вопросу в Исполнительной власти Баку, снос указанного здания осуществляется на основе обращения Госкомитета по градостроительству и архитектуре, а также других соответствующих структур.
      Касательно времени проведения работ в ИВ отметили, что объект, незаконно построенный некоторое время назад в оползневой зоне, необходимо снести как можно скорее, так как есть риск возникновения оползней в этом районе.
      Подробнее - в сюжете Baku TV:
      https://ru.oxu.az/society/870331
       
       
      • 10 replies
    • Подробности жуткого происшествия в Баку: собаки напали на 11-летнюю девочку - ВИДЕО
      Вечером 11 мая в жилом массиве Qobu Park-2, расположенном в поселке Локбатан Гарадагского района Баку, бродячие собаки напали на 11-летнюю Зейнаб Сулейманову.
      Девочка была госпитализирована в тяжелом состоянии.
      По словам бабушки пострадавшей, соседям в последний момент удалось спасти ребенка.
      "Из-за собак мы не можем выйти на улицу. На девочку напали три собаки, на теле Зейнаб нет места, которое бы они не поранили", - рассказала женщина.
      Как заявили в Клиническом медицинском центре, лечение пострадавшей продолжается в стационаре, ей оказывается необходимая медицинская помощь.
      "Пациентку вакцинировали от бешенства, ее состояние оценивается как стабильное", - отметили в медучреждении.
      Подробнее - в сюжете Baku TV:
       
       
        • Like
      • 134 replies
    • Trendyol увеличил цены для Азербайджана
      Trendyol резко увеличил цены для Азербайджана

       
        Известная турецкая компания по онлайн-продажам Trendyol внесла изменения в стоимость услуг по доставке товаров в Азербайджан.
      Как сообщает аxar.az, соответствующие цены выросли в 2,5 раза.
      Так, если до 12 мая данный тариф был равен 79,99 турецкой лиры (4,23 маната), то в настоящее время он увеличился до 199,99 лиры (10,63 маната).
       
      https://ru.oxu.az/economy/870716
      • 17 replies
    • Цены на продукты питания в Азербайджане: что подорожало? - СПИСОК
      В апреле 2024 года индекс потребительских цен в Азербайджане составил 100,0%, по сравнению с аналогичным периодом прошлого года.
      Как сообщает Госкомстат, индекс потребительских цен на продукты питания, напитки и табачные изделия составил 98,2%, на непродовольственные товары - 100,9%, на платные услуги, оказанные населению - 102,0%.
      Согласно информации, в апреле 2024 года индекс потребительских цен по сравнению с предыдущим месяцем составил 99,9%, а за первые четыре месяца по сравнению с аналогичным периодом прошлого года - 100,7%.
      В апреле, по сравнению с предыдущим месяцем, наибольшее снижение цен наблюдалось на манную и гречневую крупы, макароны, свежую рыбу, молоко, яйца, маргарин, подсолнечное и кукурузное масло, грецкие орехи, фундук, помидоры, огурцы, зелень, баклажаны и картофель. В то же время рост цен был зафиксирован на лимоны, бананы, яблоки, груши, киви, каштан, гранат, белокочанную капусту, сладкий перец, бурак и чеснок. Цены на другие продукты питания существенно не изменились.
       
      Непродовольственные товары
      В апреле индекс потребительских цен на непродовольственные товары по сравнению с мартом составил 100,1%, а за январь-апрель, по сравнению с аналогичным периодом прошлого года, - 101,3%.
      В апреле по сравнению с предыдущим месяцем больше всего подорожали ювелирные изделия, цемент и пиломатериалы. Стоимость других непродовольственных товаров существенно не изменились.
      Платные услуги населению
      В апреле 2024 года индекс потребительских цен на платные услуги населению по сравнению с предыдущим месяцем составил 100,1%, а за январь-апрель, по сравнению с аналогичным периодом прошлого года, - 102,4%.
      В апреле, по сравнению с предыдущим месяцем, наибольший рост цен наблюдался на услуги международных авиаперевозок в страны СНГ, туры внутри страны, медицинские, стоматологические, парикмахерские и косметологические услуги, а также услуги платных дошкольных образовательных учреждений. Стоимость других платных услуг существенно не изменились.
      https://media.az/society/ceny-na-produkty-pitaniya-v-azerbajdzhane-chto-podorozhalo-spisok
      • 9 replies
    • На побережье Каспия откроется цирк
      Sea Breeze Resort активно развивает детское направление, и этим летом отдых с детьми на территории города-курорта станет еще интереснее – на территории курорта впервые откроется цирк.
      «1 июня в Sea Breeze под руководством обладателя циркового «Оскара» Аллахверди Исрафилова стартует международная программа «Легенды Монте-Карло» с участием артистов одного из самых престижных цирковых фестивалей в мире», - говорится в сообщении пресс-службы Sea Breeze.
      Отмечается, что цирковой шатер со зрительным залом вместимостью 1250 мест и 13-метровым манежем расположится между Лунапарком и Аквапарком, которые также начнут принимать гостей этим летом.
        Цирк откроется в Международный день защиты детей 1 июня, и первое шоу будет носить благотворительный характер - на него будут приглашены дети, оставшиеся без попечения родителей, и дети с ограниченными физическими возможностями.
      «Живые легенды Монте-Карло очаруют и детей, и взрослых сложными акробатическими трюками, виртуозным жонглерским мастерством, настоящей магией и впечатляющей эквилибристикой. А великолепные карабахские скакуны, покорившие своим выступлением публику Виндзорского королевского конного шоу, под управлением настоящих джигитов продемонстрируют невероятную скорость и грацию», - говорится в сообщении.
      https://1news.az/news/20240513022911888-Na-poberezhe-Kaspiya-otkroetsya-tsirk-FOTO
      • 53 replies
  • Recently Browsing   0 members, 0 guests

    • No registered users viewing this page.
×
×
  • Create New...