Машина өлтүргүчтүн арбагы уланууда. Президент Путин эмнеге ишенет?

Аскердик роботтордун жактоочулары (1) автоматташтырылган курал адам өмүрүн коргоо үчүн көбүрөөк мүмкүнчүлүктөрдү берет деп ырасташат. Машиналар жоокерлерге караганда душманга жакындап, коркунучка туура баа бере алышат. Ал эми эмоциялар кээде туура чечим кабыл алуу жөндөмүн шал болуп калат.

Киши өлтүргүч роботторду колдонуунун көптөгөн жактоочулары алар согуштарды азыраак кандуу кылат деп ишенишет, анткени азыраак жоокерлер өлөт. Алар роботтор боору оорубаганы менен адамдын дүрбөлөңгө түшүү, ачуулануу, өч алуу сыяктуу терс эмоцияларына каршы иммунитети бар экенин, алар көбүнчө согуш кылмыштарына алып барарын белгилешет.

Укук коргоочулар ошондой эле акыркы жарым кылымда аскерий күчтөр карапайым калктын курмандыктарын эбегейсиз кыскартууга алып келди, ал эми армияны роботташтыруу согуш мыйзамдарын катуураак ишке ашыруу механизмин түзүүгө мүмкүндүк берет деген жүйөнү да колдонушат. Алар согуш мыйзамдарына баш ийүүгө мажбурлай турган программалык камсыздоо менен жабдылган машиналар этикалык болуп калат деп ырасташат.

Албетте, көптөгөн адамдар, анын ичинде абдан белгилүү адамдар, көп жылдар бою бул пикирди бөлүшпөйт. 2013-жылдын апрель айында (2) деген ураан менен эл аралык кампания башталган. Анын алкагында бейөкмөт уюмдар автономдуу курал колдонууга толук тыюу салууну талап кылууда. Көптөгөн өлкөлөрдүн эксперттери бул теманы биринчи жолу 2014-жылдын май айында Женевада өткөн куралсыздануу боюнча БУУнун конференциясында талкуулашты. Бир нече айдан кийин Human Rights Watch уюму менен Гарвард университетинин илимпоздору жарыялаган баяндамада автономдуулар өтө кооптуу болору айтылган - алар өз бутасын тандап, адамдарды өлтүрүшкөн. Ошол эле учурда ким жоопко тартылышы керектиги анча ачык эмес.

2. "Киши өлтүргүч роботторду токтот" акциясынын алкагында демонстрация

Кичинекей дрондордун үйүрү эмне кыла алат

Киши өлтүргүч роботтордун (ROU) тегерегиндеги талаш-тартыштар көп жылдардан бери уланып келет жана жок кылынбайт. Акыркы айлар аскердик роботторду токтотууга жаңы аракеттерди жана ушул типтеги жаңы долбоорлордун толкунун алып келди, алардын айрымдары чыныгы согуштук шарттарда сыналууда.

2017-жылдын ноябрь айында видео көрсөтүлөт мини-дрондордун өлүмдүү үйүрлөрү ., коркунучтуу иш-аракетте. Көрүүчүлөр жапырт жана пулемет менен өлтүрүү үчүн жырткычтар ыргыткан оор согуштук машиналар, танктар же ракеталардын бизге кереги жок экенин көрүштү. Берклидеги жасалма интеллект профессору, башкы директор Стюарт Рассел мындай дейт:

-

Өткөн жаз элуу профессор Дүйнөнүн алдыңкы университеттери Кореянын алдыңкы илим жана технология институтуна (KAIST) жана анын өнөктөшү Hanwha Systemsке кайрылууга кол коюшту. алар университет менен кызматташпай тургандыктарын жана KAIST конокторун кабыл албай тургандыктарын жарыялашты. Буга эки мекеме тең жүргүзгөн “автономдук куралдын” курулушу себеп болгон. KAIST маалымат каражаттарынын билдирүүлөрүн четке какты.

Көп өтпөй АКШда 3төн ашык Google кызматкерлери ротанын аскер кызматкерлери үчүн жасаган иштерине каршы нааразылык билдирди. Алар Google компаниясынын аскердик учкучсуз учактардагы видеолордогу объектилерди жана жүздөрдү таануу үчүн AI колдонууга багытталган Maven коддуу долбоору менен өнөктөш болуп жатканына тынчсызданышкан. Компаниянын жетекчилиги Maven компаниясынын максаты – агрессиядан эмес, адамдардын өмүрүн сактап, түйшүктүү жумуштан куткаруу экенин айтууда. Митингчилер буга ынанган жок.

Согуштун кийинки бөлүгү декларация болду жасалма интеллект боюнча эксперттер, анын ичинде Google долбоорунда иштөө жана Элона Маска. Алар роботторду иштеп чыкпоого убада беришет. Алар ошондой эле өкмөттөрдү бул куралдарды жөнгө салуу жана чектөө боюнча аракеттерди күчөтүүгө чакырышат.

Билдирүүдө «адам өмүрүн алуу чечими эч качан машина тарабынан кабыл алынбашы керек» деп айтылат. Дүйнөнүн армиялары көптөгөн автоматтык түзүлүштөр менен жабдылган, кээде жогорку деңгээлдеги автономия менен жабдылганына карабастан, көптөгөн эксперттер келечекте бул технология толугу менен автономдуу болуп, адам операторунун жана командирдин катышуусуз өлтүрүүгө мүмкүндүк берет деп кооптонушат.

Эксперттер ошондой эле автономдуу өлтүрүүчү машиналар "өзөктүк, химиялык жана биологиялык куралдардан" да коркунучтуу болушу мүмкүн, анткени алар оңой эле көзөмөлдөн чыгып кетиши мүмкүн деп эскертишет. Жалпысынан өткөн жылдын июль айында Future of Life институтунун (FGI) жетекчилиги астында катка 170 уюм жана 2464 адам кол койгон. 2019-жылдын алгачкы айларында FLI менен байланышкан медициналык илимпоздор тобу жасалма интеллект (AI) менен башкарылуучу куралдарды иштеп чыгууга тыюу салган жаңы катты кайрадан чакырышты.

Аскердик "өлтүрүүчү роботторду" мүмкүн болгон укуктук жөнгө салуу боюнча Гневодо өткөн жылдагы ООНдун август кеңешмеси ийгиликтүү ... машиналар менен аяктаган. АКШ, Россия жана Израилди камтыган мамлекеттердин тобу бул куралдарга эл аралык тыюу салууну киргизүү боюнча мындан аркы ишке бөгөт коюшту (Кээ бир кадимки куралдарды колдонууга тыюу салуу же чектөө жөнүндө конвенциянын долбоору, CCW). Бул мамлекеттер автономиялуу жана роботтук куралдардын алдыңкы системалары боюнча жасаган иштери менен белгилүү экендиги кокусунан эмес.

Орусия согуштук роботторго басым жасайт

Президент Владимир Путиндин аскердик AI системалары жана согуштук роботтор жөнүндө мындай дегени көп айтылат:

-.

автономиялуу курал-жарактарды иштеп чыгуу женунде ачык суйлешет. Анын куралдуу күчтөрүнүн Башкы штабынын башчысы, генерал Валерий Герасимов жакында Интерфакс-АВН аскердик маалымат агенттигине роботторду колдонуу келечектеги согуштардын негизги өзгөчөлүктөрүнүн бири болорун айтты. Ал Орусия аракет кылып жатканын кошумчалады согуш талаасын толугу менен автоматташтыруу. Ушундай эле комментарийлерди вице-премьер-министр Дмитрий Рогозин менен коргоо министри Сергей Шойгу да билдиришти. Федерация Кеңешинин Коргоо жана коопсуздук боюнча комитетинин төрагасы Виктор Бондарев Орусия өнүгүүгө умтулуп жатканын билдирди. Roju технологияларбул дрон тармактарынын бирдиктүү уюм катары иштешине мүмкүндүк берет.

Биринчи телетанктар Советтер Союзунда 30-жылдары иштелип чыкканын эстесек, бул таң калыштуу эмес. Алар Экинчи дүйнөлүк согуштун башында колдонулган. Бүгүнкү күндө Орусия да жаратып жатат танк роботтору барган сайын автономиялуу болуп калат.

Путиндин мамлекети жакында Сирияга өзүнүн мамлекетин жиберди Уран-9 учкучсуз согуштук аппараты (3). аппарат ердэки доландырыш пунктлары билен арагатнашыгыны йитирди, асма систе-масында проблемалар барды, онун яраглары кемчиликсиз ишлемейэр ве херекет эдйэн буталара догмаярды. Бул анча деле олуттуу угулбайт, бирок көптөр сириялык сүртүүнү орустарга машинаны өркүндөтүүгө мүмкүндүк берген жакшы согуштук сыноо деп эсептешет.

Роскосмос быйыл август айына чейин Эл аралык космос станциясына эки робот жөнөтүү боюнча алдын ала планды бекитти. Алек (4) учкучсуз союзда. Жүк сыяктуу эмес, бирок. "RoboCop" тасмасындагыдай эле, Федор курал алып, атуу машыгууларында өлүмгө алып келген атуу чеберчилигин көрсөтөт.

Суроо, эмне үчүн космостогу робот куралдуу болот? Кеп жердеги арыздарда гана эмес деген шектенүүлөр бар. Ошол эле учурда жерде орус курал өндүрүүчүсү Калашников визуализациясын көрсөттү кул ИгорекБул көптөгөн күлкү жаратса да, компаниянын автономдуу согуштук унаалар боюнча олуттуу иштеп жатканын билдирет. 2018-жылдын июль айында Калашников курал жасап жатканын жарыялаган, ал куралды "аткыла же атпа" деген чечимди кабыл алуу үчүн колдонот.

Бул маалыматка россиялык куралчы Дигтярев кичине иштеп чыкканы тууралуу кабарларды кошуу керек автономиялык танк Нерехт өз алдынча бутага карай унчукпай жылып, андан кийин башка же бүтүндөй имараттарды жок кылуу үчүн күчтүү күч менен жарыла алат. Дагы Танк T14 армиясы , Орусиянын куралдуу күчтөрүнүн сыймыгы, мүмкүн алыстан башкаруу жана учкучсуз айдоо үчүн иштелип чыккан. Спутник орусиялык аскер инженерлери Т-14тү толугу менен автономдуу брондолгон унаа кылуу үчүн иштеп жатканын ырастады.

Каршылык көрсөтүү директивасы

Америкалык аскерлердин өзү курал-жарактарынын автономиясынын деңгээлине так чектөө киргизди. 2012-жылы АКШнын Коргоо министрлиги 3000.09 директивасын чыгарган, анда адамдар куралдуу роботтордун аракеттерине каршы чыгууга укуктуу болушу керек деп жазылган. (Бирок кээ бир өзгөчөлүктөр болушу мүмкүн). Бул директива күчүндө кала берет. Пентагондун азыркы саясаты — куралды колдонуунун чечуучу фактору ар дайым адам болууга тийиш жана мындай сот болууга тийиш. согуштун мыйзамдарына ылайык келет.

Америкалыктар ондогон жылдар бою учуучу, Predator, Reaper жана башка көптөгөн супермашиналарды колдонуп келишкени менен, алар автономдуу моделдер болгон эмес жана эмес. Алар операторлор тарабынан алыстан, кээде бир нече миң километр аралыктан башкарылат. Бул типтеги машиналардын автономиялуулугу тууралуу кызуу талкуу прототиптин премьерасы менен башталды. дрон X-47B (5), ал өз алдынча учуп гана тим болбостон, учак конуучу кемеден учуп, ага конуп, абада май куюуга да жөндөмдүү. Мааниси дагы адамдын кийлигишүүсүз атып же бомбалоо. Бирок долбоор дагы эле тестирлөө жана кароодон өтүүдө.

5. Америкалык авианосецте учкучсуз X-47B сыноолору

2003-жылы Коргоо министрлиги кичинекей танкка окшош робот менен эксперимент жүргүзө баштаган. SPOES автомат менен жабдылган. 2007-жылы Иракка жөнөтүлгөн. бирок робот өзүн туура эмес алып барып, мылтыгын туура эмес кыймылдата баштагандан кийин программа аяктады. Натыйжада, америкалык аскерлер көп жылдар бою куралдуу жердеги роботторду изилдөөдөн баш тартты.

Ошол эле учурда АКШ армиясы 20-жылдагы 2014 миллион доллардан 156-жылы 2018 миллион долларга чейин операцияларга кеткен чыгымын көбөйттү. 2019-жылы бул бюджет 327 миллион долларга чейин секирип кеткен. Бул бир нече жылдын ичинде 1823% га өскөн. Эксперттердин айтымында, 2025-жылы эле америкалык аскерлер согуш талаасы болушу мүмкүн адамдарга караганда робот аскерлер көбүрөөк.

Акыркы убакта АКШ армиясы тарабынан көптөгөн талаш-тартыштар жаралып, жарыяланды ATLAS долбоору () - автоматтык. Жалпыга маалымдоо каражаттарында бул жогоруда айтылган 3000.09 Директивасын бузуу катары бааланган. Бирок, америкалык аскерлер чечим кабыл алуу циклинен адамды четтетүү мүмкүн эмес экенин четке кагып, ишендирүүдө.

AI акулаларды жана жарандарды тааныйт

Бирок, автономдуу куралды коргоочулар жаңы аргументтер бар. проф. Бул тууралуу Джорджия технологиялык институтунун роботтору Рональд Аркин өзүнүн басылмаларында айтат Заманбап согушта жарандардын курмандыктарын болтурбоо үчүн акылдуу куралдар абдан маанилүү, анткени машина үйрөнүү ыкмалары согушкерлер менен жарандарды, ошондой эле маанилүү жана маанилүү эмес буталарды айырмалоого натыйжалуу жардам берет.

Мындай AI көндүмдөрүнүн мисалы - Австралиянын пляждарын күзөтүү. дрондор Little RipperСидней технологиялык университети тарабынан иштелип чыккан SharkSpotter системасы менен жабдылган. Бул система сууда акулалардын бар-жогун автоматтык түрдө сканерлейт жана кооптуу нерсени көргөндө операторго эскертет. (6) Ал акулалардан айырмалоо үчүн адамдарды, дельфиндерди, кайыктарды, серфинг такталарын жана суудагы нерселерди аныктай алат. Ал жогорку тактык менен он алтыга жакын түрдүү түрдү таап, аныктай алат.

6. SharkSpotter системасында таанылган акулалар

Бул прогрессивдүү машина үйрөнүү ыкмалары абадан чалгындоо тактыгын 90% дан ашык жогорулатат. Салыштыруу үчүн айта турган болсок, ушул сыяктуу кырдаалда иштеген адам аэрофотосүрөттөрдөгү объектилердин 20-30% так тааныйт. Мындан тышкары, идентификация дагы эле сигналга чейин адам тарабынан текшерилет.

Согуш талаасында оператор экрандагы сүрөттү көрүп, жердегилер колдорунда АК-47лери бар согушкерлерби же, мисалы, пикки бар дыйкандарбы деп араң аныктай алат. Аркин белгилегендей, адамдар өзгөчө стресстик кырдаалдарда «өздөрү эмнени көргүсү келсе, ошону көрүүгө» жакын болушат. Бул таасир 1987-жылы USS Vincennes тарабынан ирандык учактын кокусунан түшүрүлүшүнө түрткү болгон. Албетте, анын ою боюнча, AI башкарган курал-жарактар ​​чындыгында сезимтал эмес, азыркы "акылдуу бомбалардан" жакшы болмок. Өткөн жылдын август айында саудиялык лазердик ракета Йеменде мектеп окуучулары толгон автобуска тийип, кырк бала каза болгон.

"Эгер мектеп автобусу туура белгиленсе, аны автономдуу системада аныктоо оңой болушу мүмкүн", - дейт Аркин Популярдуу механикада.

Бирок, бул аргументтер үгүтчүлөрдү автоматтык түрдө өлтүрүүчүлөргө каршы ынандырбайт окшойт. Киши өлтүргүч роботтордун коркунучунан тышкары дагы бир маанилүү жагдайды эске алуу керек. Ал тургай, "жакшы" жана "көңүлдүү" системаны бузуп, өтө жаман адамдар басып алышы мүмкүн. Ошондо аскердик техниканы коргоодогу бардык аргументтер күчүн жоготот.