Өзү башкарган унаа кимди өлтүрөт? Машина, мүмкүн болушунча көп адамдарды сакта, бирок баарынан да мени куткар!

Эгер машинанын автономдуу системасы жакынкы кырсык болгон учурда кимди курмандыкка чалуу керектигин тез тандоого туура келген кырдаал жаралса, ал кандай мамиле кылышы керек? Жөө жүргүнчүлөрдү куткаруу үчүн жүргүнчүлөрдү курмандыкка чалуубу? Керек болсо, жөө жүргүнчүнү, мисалы, машинеде бараткан төрт кишиден турган үй-бүлөнү сактап калуу үчүн өлтүргүлөчү? Же, балким, ал ар дайым биринчи өзүн коргоо керек?

Калифорнияда алтымыштан ашык компаниялар жеке тестирлөөгө уруксат алганы менен, тармак этикалык дилеммаларга туш болот деп айтуу кыйын. Учурда ал негизги көйгөйлөр менен күрөшүп жатат - системалардын иштеши жана навигациялык натыйжалуулугу жана жөн гана кагылышуулардан жана күтүлбөгөн окуялардан качуу. Жакында эле Аризона штатында жөө жүргүнчүнү өлтүрүү, же андан кийинки кырсыктар (1) сыяктуу кырдаалдарда, буга чейин бул жөн гана системанын бузулушуна байланыштуу болгон, ал эми машинанын кандайдыр бир "этикалык тандоосу" жөнүндө эмес.

Байларды жана жаштарды сакта

Мындай чечимдерди кабыл алуу маселелери абстракттуу проблемалар эмес. Ар бир тажрыйбалуу айдоочу муну тастыктай алат. Өткөн жылы MIT Media Lab изилдөөчүлөрү дүйнө жүзүндөгү респонденттердин кырк миллиондон ашык жоопторун талдап чыгышкан, алар 2014-жылы башталган изилдөөнүн жүрүшүндө чогулткан. Сурамжылоонун системасы алар "Этикалык машина" деп атаган. дүйнөдө окшош суроолор ар кандай жооптор берилет.

Эң жалпы тыянактар ​​алдын ала айтууга болот. Экстремалдуу кырдаалдарда адамдар мүмкүн болушунча көп адамдардын өмүрүн сактап калууну көздөп, жаныбарларга кам көрүүдөн көрө адамдарды куткарууну артык көрүшөт жана карыларга караганда жашыраак болушат (2). Аялдарды эркектерге, статусу жогору адамдарды кедейлерге жана жөө жүргүнчүлөрдү унаа жүргүнчүлөрүнөн куткарууга келгенде кээ бир, бирок анча айкын эмес артыкчылыктар бар..

2. Машина кимди сакташы керек?

Жарым миллионго жакын респондент демографиялык анкета толтургандыктан, алардын каалоолорун жашы, жынысы жана диний ишенимдери менен салыштырууга болот. Изилдөөчүлөр бул айырмачылыктар адамдардын чечимдерине "олуттуу таасир этпейт" деген жыйынтыкка келишкен, бирок кээ бир маданий таасирлерди белгилешкен. Мисалы, француздар чечимди каза болгондордун болжолдуу санына карап таразага салышкан, ал эми Жапонияда эң аз басым жасалган. Бирок, Күн чыгыш өлкөсүндө карылардын өмүрү Батышка караганда алда канча жогору бааланат.

«Биз унааларыбызга өз алдынча этикалык чечимдерди кабыл алууга уруксат берүүдөн мурун, биз бул тууралуу глобалдуу талкууга чыгышыбыз керек. Автономдуу системаларда иштеген компаниялар биздин артыкчылыктарыбызды билгенде, алардын негизинде машиналарда этикалык алгоритмдерди иштеп чыгышат жана саясатчылар адекваттуу мыйзамдык жоболорду киргизе башташат ”, - деп жазган окумуштуулар 2018-жылдын октябрында Nature журналында.

Адеп-ахлактык машинанын экспериментине катышкан изилдөөчүлөрдүн бири Жан-Франсуа Боннефонт жогору даражадагы адамдарды (мисалы, үй-жайсыздарга караганда жетекчилер) куткарууну артык көргөн. Анын пикиринде, бул абдан байланыштуу тигил же бул өлкөдөгү экономикалык теңсиздиктин деңгээли. Теңсиздик көбүрөөк болгон жерде жакырларды жана үй-жайсыздарды курмандыкка чалууга артыкчылык берилген.

Мурунку изилдөөлөрдүн бири, атап айтканда, респонденттердин пикири боюнча, автономдуу унаа жүргүнчүлөрдү жоготсо да, мүмкүн болушунча көп адамдарды коргошу керек экенин көрсөттү. Бирок ошол эле учурда респонденттер мындай программаланган машинаны сатып албай турганын айтышкан. Муну окумуштуулар түшүндүрүштү адамдар көбүрөөк адамдарды сактап калуу үчүн этикалык деп эсептешет, ошол эле учурда алар жеке кызыкчылыкты көздөшөт, бул өндүрүүчүлөргө кардарлар альтруисттик системалар менен жабдылган унааларды сатып алууну каалабайт деген сигнал болушу мүмкүн.. Бир нече убакыт мурун Mercedes-Benz компаниясынын өкүлдөрү алардын системасы бир гана адамды сактап калса, жөө жүргүнчүнү эмес, айдоочуну тандайбыз деп айтышкан. Элдик нааразылык толкуну компанияны декларациясын кайтарып алууга аргасыз кылды. Бирок изилдөөлөр бул ыйык каарданууда эки жүздүүлүк көп болгонун ачык көрсөтүп турат.

Бул азыртан эле кээ бир өлкөлөрдө болуп жатат. укуктук жөнгө салуу боюнча алгачкы аракеттер талаада. Германияда айдоочусу жок унаалар кандай болсо да жаракат же өлүм болбошу үчүн мыйзам кабыл алды. Мыйзам ошондой эле алгоритмдер эч качан жашы, жынысы, ден соолугу же жөө жүргүнчүлөр сыяктуу өзгөчөлүктөргө негизделген чечим чыгара албайт деп айтылат.

Audi жоопкерчиликти алат

Дизайнер машинанын иштешинин бардык кесепеттерин алдын ала айта албайт. Чындык ар дайым мурда эч качан сыналбаган өзгөрмөлөрдүн айкалышын камсыз кыла алат. Бул биздин машинаны «этикалык программалоо» мүмкүнчүлүгүнө болгон ишенимибизди жокко чыгарат. Бизге "автоунаанын күнөөсү боюнча" ката жана трагедия болгон кырдаалдарда жоопкерчиликти системанын өндүрүүчүсү жана иштеп чыгуучу көтөрүшү керектей сезилет.

Балким, бул ой туура, бирок, балким, туура эмес болгон үчүн эмес. Тескерисинче, кыймылга уруксат берилгендиктен, аны жасоо мүмкүнчүлүгүнөн 2019% бош эмес. Бул себеп болуп калды окшойт, жана жакында эле ал автоматтык Traffic Jam Pilot (8) системасын колдонуп жатканда 3 жаштагы AXNUMX катышкан кырсыктар үчүн жоопкерчиликти ала турганын жарыялаган компания тарабынан жалпы жоопкерчиликтен качкан жок.

3. Audi Traffic Jam Pilot Interface

Башка жагынан алганда, миллиондогон адамдар унаа айдап, ошондой эле ката кетиришет. Анда эмне үчүн статистикалык жактан адамдардан алда канча аз ката кетирген машиналар бул жагынан басмырланышы керек?

Эгер кимдир бирөө автономдуу унаалар дүйнөсүндөгү этика жана жоопкерчилик дилеммалары жөнөкөй деп ойлосо, ойлонуңуз...