Адрес для входа в РФ: exler.wiki
Страж-птица
На мой взгляд, это очень плохая новость. Печальное будущее, о котором предупреждали фантасты, все ближе и ближе.
Военный квадрокоптер Kargu-2, находясь в автономном режиме работы, убил человека во время вооруженного конфликта в Ливии. Как пишет журнал New Scientist со ссылкой на исследование ООН, это первый зафиксированный случай в истории, когда дрон без приказа человека совершил убийство.
Эпизод произошел в марте 2020 года, однако об этом стало известно только сейчас. Дрон был произведен в Турции и работал в «высокоэффективном автономном режиме», то есть был запрограммирован для атаки целей без необходимости команд от оператора. Kargu-2 оснащаются взрывчаткой и могут быть наведены на цель для самоподрыва.
Погибший был участником Ливийской национальной армии под предводительством Халифа Хафтара — она воюет против регулярной армии правительства Ливии в Триполи. (Отсюда.)
Роберт Шекли это все давным-давно предсказал - прочитайте небольшой рассказ "Страж-птица", если еще не читали.
Эпизод произошел в мае, однако об этом стало известно только сейчас. Андроид был произведен и работал в «высокоэффективном автономном режиме», то есть был запрограммирован на размножение без необходимости команд от оператора. Born-2 оснащаются детородным органами и могут быть воспроизводить себе подобных.
"Произошел сбой системы.
Попробуйте ещё раз."
Очень вряд ли, чтобы девайс принял сам решение.
Слушала по радио ещё во времена СССР.
While the full details of the incident, which took place in Libya, haven’t been released and it is unclear if there were any casualties
Read more: www.newscientist.com
P.S. Привет всем из "Солнечной Болгарии". Сейчас 8 градусов, а завтра 12 и дожд почти постоянно. Вот тебе и первое июня и солнечная Болгария.
В случае с пистолетом - не пистолет убил, а стрелок, что совершенно логично.
1) Даже среди стран, являющихся мировыми технологическими лидерами – до сих пор мало кто рискует выпускать свою опасную для жизни технику на "одиночную охоту". Любые тупо-скрипты (которые вообще не шарящие в этой теме вояки громко называют термином "ИИ"), к сожалению, пока ещё далеко не универсальны – а потому бесполезны (или даже опасны) в огромном количестве случаев.
2) Любые производители подобной техники, помпезно заявляющие о "высокоэффективном автономном режиме" без проведения многолетних (!!!) комплексных испытаний "в хвост и в гриву" – заведомо (и преступно!!!) врут своим покупателям. Тем самым и являясь главными виновниками...
P.S. А "Страж-птица" – да, тоже сразу вспомнилось. ))
Просто сортировал комментьi по рейтингу и не прочитал твой.
Привет.
"Неизбирательного действия" это уже что-то новое, вы сами придумали? Капкан обычный, охотничий - это тоже, получается, неизбирательного действия оружие по вашей логике. Действует (после включения) сам по себе, вред причинить может, вплоть до летального. Какие международные нормы производство и поставки капканов регулируют?
Еще бы понять кому оно "обязано" и что будет, если оно не "обяжется".
В данном случае дрон бьіл запущен, чтоб убивать солдат армии (махновской бандьі) противника.
Вот, если бьі он, чтоб два раза не вставать, слетал на ближайший рьінок, да расстрелял торговцев арбузами/верблюдами/компьютерньім софтом - тут бьіл бьі повод для беспокойства, да.
"...применение оружия, боеприпасов и техники, а также методов ведения войны такого характера, которые вызывают чрезмерные повреждения или ненужные страдания или которые являются неизбирательными по своей сути..."
Как видите, это определение "новое" только лишь для вас.
Как видите, и эта информация "новая" только лишь для вас.
Как видите... Ну, вы поняли. ?
Вундервафля кого-то грохнула, но зачем и почему – толком никто не знает (и не говорит). Бежал в камуфляже? У нас таких дохрена даже без войны. Открыл огонь по вундевафле? Логично, мы с вами оба поступили бы так же, завидев направляющуюся к нам смертоносную хрень. Или просто "форма не той системы"? Возвращаемся к теме военных преступлений...
У вас есть ещё версии произошедшего? Или пока только "форма не той системы"? Если так – то тогда вы даже не понимаете реальный масштаб проблемы. Ведь подобные вундервафли может стряпать или закупать любая из сторон – и не факт, что завтра вундервафли противной стороны не посчитают "угрозой" лично вас или лично меня. Как вам такая "перспективка", а?
P.S. Просто я прекрасно понимаю, какие дикие косяки порой могут случаться даже из-за всего лишь одного ошибочно проставленного символа...
Во-первых ваш определение это часть длинного перечня того, что считается "военными преступлениями" и перечень служит для определения случаев, которые МУС рассматривает. Как известно всем (вам, надеюсь тоже), пока никакого суда не было. Можно, конечно, вообразить себя ясновидцем, но это уже совсем несерьезно.
Во-вторых, а куда же делось окончание фразы: "при условии, что такое оружие, такие боеприпасы, такая техника и такие методы ведения войны являются предметом всеобъемлющего запрещения и включены в приложение к настоящему Статуту путем поправки согласно соответствующему положению, изложенному в статьях 121 и 123; ". Вы наверняка в курсе включены ли "высокоэффективные автономные дроны" в приложения?
Про ОМП вы предпочти умолчать, понимаю.
Эээ... могут возникнуть, а могут не возникнуть, так что ли? Ну тогда да, согласен. Ситуация как с динозавром - либо встречу, либо не встречу.
*человечество, безусловно, опасносте, и самую главную опасность, увьі, представляет человек.
Я войну не люблю. Но, походу, мог и не участвовать (єто если не брать морально-єтическую составляющую).
У дрона есть постановщик задачи. Грубо говоря - снайпер на удаленке. Дрон не принимает решения заправиться, взлететь, отправиться в район БД и завалить кого-то в развалинах средневековой часовни. Он ПОЛУЧАЕТ задачу от своего оператора (а тот от разведки). Если достоверно известно, что в развалинах часовни НЕТ некомбатантов - дрон (ПРИ НАЛИЧИИ ПРЯМОГО УКАЗАНИЯ) завалит того, кого обнаружит. То же самое сделает живой человек.
Поєтому:
То есть – уже вырисовывается ОМП...
Живой человек будет действовать по ситуации. Как минимум будет оценивать то, как ведут себя даже комбатанты – и поймёт, когда необходимо убить, а когда можно просто захватить в плен (ибо убийство сдающихся является преступлением, как писал ранее). Насколько это "понимает" дрон в полностью автономном режиме, вообще без участия оператора – вопрос без ответов.
Поэтому и "перспективка" подобных "безмозглых" дронов однозначно хуже даже ныне действующей. По крайней мере, в данный момент (и в ближайшем будущем, думаю)...
Вот сам дрон, вот прямая цитата из отчёта ООН по ливийской теме:
"Logistics convoys and retreating HAF were subsequently hunted down and remotely engaged by the unmanned combat aerial vehicles or the lethal autonomous weapons systems such as the STM Kargu-2 (see annex 30) and other loitering munitions. The lethal autonomous weapons systems were programmed to attack targets without requiring data connectivity between the operator and the munition: in effect, a true “fire, forget and find” capability. The unmanned combat aerial vehicles and the small drone intelligence, surveillance and reconnaissance capability of HAF were neutralized by electronic jamming from the Koral electronic warfare system."
Согласен, что для "железобетонного" обвинения этого явно маловато (с учётом как ливийского бардака, так и мутности турецких властей). Но в целом, как минимум логически – "концы сходятся"...
Он сделал как раз то, на что был запрограммирован? Вроде бы. Я бы сравнил скорее с миной: наступил - рвануло. Тоже оператор не нужен.
Другое дело, что их могут попробовать использовать в качестве... чего? Стражей закона? Чтобы исключить "человеческий фактор"? Так вся наша так наз цивилизация на это нацелена. В идеале, конечно.
I, Robot is a fixup novel of science fiction short stories or essays by American writer Isaac Asimov.
"гугл почта России дрон "
Погиб от дружественного огня?
Остановлен бег
Вкалывают роботы
А не человек!
Eсс-сно есть осталые страны и анклавы типа карабаха, где по-прежнему живут кланами, пасут овец и молятся. Наверное, на эти войны и рассчитаны продажи. Кстати, на видео, которое я постил, очень похоже HA карабах-- дроны летали над пастбищами с коровами. Очень важный плацдарм войны 21 века.
1. Ошибки/уязвимости (и сложности их выявления)
2. Масштабируемость
И отсюда третье - масштабируемые ошибки.
Точно так же, неудачный боеприпас может взрываться "невовремя". Это тоже масштабируемая проблема, когда речь идет о складе боеприпасов, например.
Но склад - это хотя бы локальная проблема. Ходи подальше от склада - и даже если он весь взорвется, тебе ничего не будет.
Проблема с военными дронами в том и состоит, что их ошибки совсем не локальные и при этом крайне масштабируемые. Предсказуемость этих проблем тоже гораздо ниже - ввиду сложности ПО. Кроме того, если производство "традиционного" оружия уже сейчас жестко регулируется рядом международных соглашений, новое "умное оружие" законом еще плохо освоено.
У дронов оно выше изначально просто потому, что они куда более маневренные, чем другое современное высокоточное оружие, их гораздо легче сбить, они сталкиваются с гораздо большим числом вариантов контратаки, их размеры и скоростные характеристики привлекательны для программирования их работы на гораздо меньших высотах, т.е. в условиях куда более разнообразной обстановки.
Сейчас эта разница, похоже, несущественна. Но как насчет дронов, способных часами преследовать цель и изощренно уходить от контратаки противника, самообучаясь по ходу боя и не контактируя с "центром", работая автономно? Какой сопутствующий ущерб заглючивший дрон сочтет приемлемым? Как "перепроверит себя" на предмет ошибочной цели?
Да, чем сложнее ПО, тем выше вероятность сбоев. Но в то же время, сложные комплексные системы редко когда "ломаются" целиком. На тысячу сбоев 999 будут незначительными, без каких либо значимых последствий.
И что в этом роботе настолько страшного, что делает его хуже ЯО, боевых газов или арт. стрельбой на рикошете снарядами заправленными заточенными штырями?
Очень напоминает логику церкви католической, когда она с арбалетами боролась. C возможностью убивать на войне рыцарей они очень боролись. А с самой войной - нет, она норм.
..Хотя... март 2020... тогда маски еще были необязательны.
Иногда попадают с хорошими предсказаниями, иногда с плохими, чаще всего вообще не попадают.
Ну и? Понятно, что прогресс в некоторых областях предсказуем, понятно, что написав кучу фантазий, есть вероятность попасть.
Зачем вздыхать то томно?
Сенсация.
Чем этот дрон принципиально отличается от плавающей магнитной мины? Те ведь тоже не взрываются как попало - а настраиваются на конкретные параметры проплывающего корабля.
И в случае мины и в случае дрона - это электро(нно)-механические автоматы, направленные на уничтожение живой силы противника (техники)
Отличие лишь в сложности алгоритма.
И в случае мины и в случае дрона решение об уничтожении или неуничтожении принимает разработчик в рамках технического задания - на стадии проектирования.
Повторюсь
Ни малейшей разницы нет. И дрон и морская мина - всего лишь разновидности мин с автоматикой срабатывания.
Отличие лишь в сложности алгоритма.
И в случае мины и в случае дрона решение об уничтожении или неуничтожении принимает разработчик в рамках технического задания
Вы почему-то думаете, что у человека, в отличие от других, есть какая-то особая "свобода воли". Нет там нигде никакого качественного барьера, есть лишь сложность алгоритмов. Мы сейчас спорим именно об этом - приближается ли сложность алгоритмов того же дрона к тем алгоритмам, которые использует человек для решения подобных задач. Кто принимает решение убить врага? Солдат? Или его командир? Или вбитые солдату в голову простейшие алгоритмы распознавания "свой-чужой"?
На самом деле есть хороший способ это проверить - для этого нужно, чтобы исправный субъект (солдат или дрон, неважно) отказался бы выполнить приказ. (См. прекрасную повесть Ст.Лема "Маска"). И что-то мне подсказывает, что это не так уж невероятно в ближайшем будущем.
В случае человека - отказ исполнителя от убийства вполне возможен.
Зачем, да?"
И всего никогда не предусмотришь. Был постапокалиптический роман, где такой робот не стал стрелять по цели выше двух с половиной метров ростом. А там просто один нес другого на плечах.
И что? Спать не можете по ночам? Или просто не особо задумывались об этом?
Проблемы, как кажется, будут на стыке авто и само. Когда 95% будет ездить на автомате - все образуется.
Никто пока не рискнул доверить самолету садиться на автопилоте..
Тем более что и сертифицирован под полностью автоматическую посадку AFAIK единственный аэропорт в мире.
Во-вторых, я имел в виду некоторое будущее - как в фантастике - пользователь просто садится в машину и называет адрес:) Соответственно, никакого участия в управлении не принимает.
Интеллект дрона - не субъект правоотношений.
Для этого нужны аэропорты сертифицированные по ILS CAT IIIC и самолеты сертифицированные по CAT IIIC - таких в мире нет пока. И неизвестно когда появятся
Саму посадку автопилот выполнить способен. А вот гарантированно пройти все этапы до нее - далеко не факт.
Как раз то что 70% времени полета самолет ведет автопилот - и указывает на то, что 30% вариантов на сегодня техника отработать неспособна
Вы не читали такой рассказ Лема "Ананке, или Пиркс на Марсе"? Там как раз про стремление сделать такой автомат вместо просто надежного автопилота (каковыми уже и являются нынешние).
И еще: если сейчас давать автопилоту сажать самолет, то в скольких случаях реально потребуется вмешательство пилотов?
In the event of an emergency, the pilot or passengers on board the aircraft can activate Autoland to land the aircraft with a simple press of a dedicated button. Autoland can also activate automatically if the system determines it’s necessary. Once activated, the system calculates a flight plan to the most suitable airport, initiates an approach to the runway and automatically lands the aircraft – without pilot or passenger intervention.
Autoland will soon be available as part of the G3000 integrated flight deck on the Cirrus Vision Jet and the Piper M600, pending Federal Aviation Administration (FAA) certification. "
October 30, 2019
Для самолетов придумана ILS Cat IIIC - но не существует ни одного самолета и ни одной полосы, сертифицированных под эту систему.
На последних примерно 30 метрах ВСЕГДА пилоты сажают вручную. Исключений нет
Что говорит статистика этой посадки?
Как активно применяется данная система на Буранах?
Garmin разработала систему посадки небольшого самолета
Это не имеет отношения к ILS
Garmin разработала систему посадки небольшого самолета
Я видел полигон после залпа БМ-21.
Дрон для достижения подобного результата должен нести килограмм 40, а то и 100 взрывчатого вещества, не считая металла для формирования осколков.
еще уровень затрат для достижения результата.
Сама машина и 5-6 человек экипажа. Подходящий для проезда на позицию пуска маршрут.
Система управления огнем с метеослужбой для точности 😄
Не забыть про две с половинной тонны веса залпа (без упаковки 😉 ), квадроциклом не привезёшь 😄.
Ну и логистику для всей этой батареи.
Дронам пока остаются цели, начиная от двух звёзд на погонах.
И я не прапорщиков имею в виду.
2) Ну и опять, о чем я сразу написал, это две принципиально разные ситуации - убийство Кеннеди это криминал, Хиросима это война. И в случае Хиросимы, личность Тиббетса глубоко второстепенна.
На мой взгляд, ничего экстроординарного в зоне конфликта. Шансы умереть от ошибки человека не ниже шансов умереть от ошибки дрона.
Как насчет самонаводящейся ракеты? Чем данный дрон от нее отличается? Технология распознавания лиц отточена не хуже, чем технология распознавания инфракрасного излучения. Это просто очередное высокоточное оружие. Слишком преждевременно говорить о том, что дрон "принял решение".
Вот если бы дрон самостоятельно принял сторону противников Хафтара, руководствуясь собственными моральными принципами, и начал бы инстреблять их командиров, тогда бы была сенсация.
В общем, если это будет - только оружием индивидуального убийства одиночных целей.
Но, конечно, заодно приходит в голову, что будет, если лукашенки и путины будущего обзаведутся роботами, способными действовать автономно и готовыми выполнить абсолютно любой приказ...
P. S.: А вот ситуации вроде той, что в описаны в "Страж-птице" - когда дроны начинают чудить, и ну никак их не отключить, вряд ли выйдут за рамки отдельных эксцессов.
Обновляется "по воздуху".
Здесь была случайность, но мы все ближе ко времени, когда решение об убийстве (тот самый килл десижен из названия) будут принимать машины сами на основании каких-то вводных. Исключительно вопрос времени.
А книгу рекомендую.
Многие вещи из романов того же Жюля Верна (или Беляева) уже давно стали частью обычной жизни.
Погибший был участником армии... или не армии... или не участником...
Один будет убивать по наличию цели в реестре плохих.
Второй - по наличию цели в реестре хороших.
третий - в реестре злых...
И тотчас, кашляя, шагнули в переднюю две фигуры с коротенькими кавалерийскими карабинами за плечами.
Один был в шпорах, другой без шпор, оба в папахах с синими шлыками, лихо свешивающимися на щеки.
У меня сердце стукнуло.
— Вы ликарь Яшвин? — спросил первый кавалерист.
— Да, я,— ответил я глухо.
— С нами поедете,— сказал первый.
— Что это значит? — спросил я, несколько оправившись.
— Саботаж, вот що,— ответил громыхающий шпорами и поглядел на меня весело и лукаво,— ликаря не хочут мобилизоваться, за що и будут отвечать по закону.
— Да, но они все были плохие."
Причём чем оно проще и дешевле -- а эти мелкие дроны очень дёшевы -- тем быстрее.
Так что ваша уверенность очень наивна.
Там вообще весь фильм классный.
И продолжает вести политику, по агрессивности не уступающую путинской.
Да и "член НАТО" Турция сейчас очень условно. Её приняли-то в НАТО скорее в порядке исключения, больше в пику СССР.
Если есть сомнения -- вспоминаем, кто выкормил Талибан и Аль Каиду.
Вот ровно подобное преспокойно может повториться и с "умным" оружием старанием столь любимой вами Турции.
Так что если соберёшся на войну против РФ, помни - эти три килограмма тротила могут прилететь и за тобой. 😄