Коркунучтар кабинети

Машиналардын көтөрүлүшү жана бийликти жасалма интеллект басып алуу. Толук көзөмөлдүн жана коомдук көзөмөлдүн дүйнөсү. Ядролук согуш жана цивилизациянын бузулушу. Көп жылдар мурун тартылган келечектин көптөгөн караңгы көрүнүштөрү бүгүн болушу керек эле. Ал ортодо артыбызды карасак, алар жок экен. Ишенесиңби?

Популярдуу бир кыйла стереотиптик репертуары бар дистопиялык пайгамбарлыктар (келечектин кара көз карашы жөнүндө). Табигый чөйрөнү жана ресурстарды жок кылуу менен байланышкан эң кеңири таралган нерселерден тышкары, эң акыркы технологиялар инсандар аралык байланышка, мамилелерге жана коомго зыян келтирет деген пикир кеңири тараган.

Виртуалдык мейкиндик дүйнөдөгү реалдуу катышууну алдамчылык менен алмаштырат. Башка дистопиялык көз караштар технологиялык өнүгүүнү социалдык теңсиздикти күчөтүүнүн, бийликти жана байлыкты чакан топтордун колуна топтоонун жолу катары карашат. Заманбап технологиянын жогорку талаптары билимди жана көндүмдөрдү артыкчылыктуу адамдардын тар чөйрөсүнө топтоп, адамдарды көзөмөлдөөнү күчөтүп, жеке турмушту бузуп жатат.

Көптөгөн футуристтердин пикири боюнча, жогорку өндүрүмдүүлүк жана көрүнүктүү тандоо адамдын жашоосунун сапатына стресс жаратып, жумуш орундарын кооптуу кылып, дүйнөгө болгон материалисттик мамилени күчөтүшү мүмкүн.

Атактуу технологиялык "дистопиячылардын" бири, Джеймс Глейк, классикалык ойлоп табуу катары сыналгынын пультунун анча маанилүү эместей көрүнгөн мисалын келтирет, ал бир дагы маанилүү маселени чечпейт, көптөгөн жаңы маселелерди пайда кылат. Глейк, техникалык тарыхчыдан цитата келтирип Эдвард Теннер, деп жазат пульттун жардамы менен каналдарды алмаштыруу мүмкүнчүлүгү жана жөнөкөйлүгү биринчи кезекте көрүүчүнү барган сайын алаксытуу үчүн кызмат кылат.

Эл канааттануунун ордуна көргөн каналдарына нааразы болуп баратат. Муктаждыктарды канааттандыруунун ордуна чексиз көңүл калуу сезими пайда болот.

Унаалар бизди резервациялоодо сактайбы?

Биз бул сөзсүз түрдө жана, балким, жакында боло турган нерсени башкара алабызбы? Жасалма интеллект ашыкчабы? Көптөгөн дистопиялык көрүнүштөр айткандай, ушундай боло турган болсо, анда жок. (1).

Бизден бир нече эсе күчтүү нерсени башкаруу кыйын. тапшырмалардын санынын кебейушу менен. Жыйырма жыл мурун эч ким адамдын үнүнөн эмоцияны жана жүзүн биз өзүбүз жасай алгандан алда канча так окуй алат деп ишенген эмес. Ошол эле учурда, учурда үйрөтүлгөн алгоритмдер муну жасоого, мимиканы, тембрди жана биздин сүйлөө жолубузду талдай алышат.

Компьютерлер сүрөт тартып, музыка жаратып, алардын бири Жапонияда өткөн поэзия сынагында да жеңип алган. Алар шахмат оюнун нөлдөн баштап үйрөнүп, элди көптөн бери жеңип келишет. Ошол эле Go бир кыйла татаал оюнга тиешелүү.

ал барган сайын тездетуунун закондоруна баш ийет. AI жетишкен нерсе - адамдардын жардамы менен - ​​акыркы ондогон жылдар ичинде - жакынкы бир нече жылда, балким, айларда эки эсе көбөйөт, андан кийин бир нече жума, күн, секунд талап кылынат ...

Жакында белгилүү болгондой, смартфондордо же аэропорттордо бардык жерде жайгашкан камералардан түшкөн сүрөттөрдү талдоо үчүн колдонулган алгоритмдер кимдир-бирөөнү ар кандай кадрдагы таанып гана тим болбостон, бир гана интимдик психологиялык өзгөчөлүктөрдү аныктай алат. Бул купуялыктын чоң коркунучу деп айтуу эч нерсе айтпаганга барабар. Бул жөнөкөй байкоо жүргүзүү, ар бир кадамды карап көрүү жөнүндө эмес, адамдын сырткы көрүнүшүнүн натыйжасында келип чыккан маалымат, анын жашыруун каалоолору жана жеке каалоолору жөнүндө. 

Алгоритмдер муну жүз миңдеген учурларды талдоо аркылуу салыштырмалуу тез үйрөнө алышат, бул эң кыраакы адам өмүр бою көрө алгандан да көп. Мындай бай тажрыйба менен куралданган алар адамды эң тажрыйбалуу психолог, дене тили жана жаңсоо аналитиктеринен да так сканерлей алышат.

Демек, чыныгы муздаткыч дистопия компьютерлер шахмат ойнойт же бизге каршы чыгат, бирок алар биздин жан дүйнөбүздү бизден башка эч кимге караганда тереңирээк көрө алат, тигил же бул ыктарды таанууда тыюу салууларга жана бөгөттөргө толгон.

Илон Маск AI системалары барган сайын өсүп жаткан масштабда үйрөнүп, ойлоно баштаганда, "интеллект" бир жерде өнүгүүсү мүмкүн деп эсептейт желе катмарларында терең, биз үчүн сезилбейт.

2016-жылы жарыяланган америкалык изилдөөгө ылайык, кийинки 45 жылда жасалма интеллект бардык тапшырмалар боюнча адамдардан 50 пайыздык мүмкүнчүлүккө ээ. Синоптиктер ооба, AI рак көйгөйүн чечет, экономиканы жакшыртат жана тездетет, көңүл ачууну камсыз кылат, жашоонун сапатын жана узактыгын жакшыртат, ансыз жашай албашыбыз үчүн бизди тарбиялайт деп айтышат, бирок бир күнү, ансыз да болушу мүмкүн. жек көрүү, логикалык эсептин негизинде гана бизди жок кылат. Балким, физикалык жактан ал иштебей калышы мүмкүн, анткени ар бир системада "бир күнү пайдалуу болушу мүмкүн" ресурстарды сактоо, архивдөө жана сактоо керек. Ооба, бул AI үчүн биз боло турган ресурс. Корголгон жумушчу күчү?

Оптимисттер розеткадан розеткадан сууруп алууга ар дайым мүмкүнчүлүк бар экендиги менен өздөрүн сооротушат. Бирок, баары ушунчалык жөнөкөй эмес. Ансыз да адам өмүрү компьютерлерге ушунчалык көз каранды болуп калгандыктан, аларга каршы радикалдуу кадам жасоо биз үчүн апаат болуп калмак.

Анткени, биз барган сайын AI негизинде чечим кабыл алуу системаларын түзүп жатабыз, аларга учактарды учууга, пайыздык чендерди белгилөөгө, электр станцияларын иштетүүгө укук берип жатабыз - биз алгоритмдер муну бизден алда канча жакшыраак аткарарын билебиз. Ошол эле учурда биз бул санариптик чечимдер кандайча кабыл алынганын толук түшүнө албайбыз.

"Тыгындарды азайтуу" сыяктуу супер интеллектуалдык командалык системалар аларды жумушту бүтүрүүнүн бирден-бир эффективдүү жолу... калктын санын үчтөн бирине же жарымына кыскартуу деген тыянакка алып келиши мүмкүн деген кооптонуулар бар.

Ооба, машинага «Биринчиден, адам өмүрүн сактап калгыла!» деген эң маанилүү көрсөтмөнү берген жөн. Бирок, ким билет, анда санариптик логика адамзатты камоого алып келеби же сарайдын астында, биз коопсуз болушу мүмкүн, бирок, албетте, эркин эмес.

Кызмат катары киберкылмыштуулук

Мурда адабияттагы жана кинодогу пост-апокалиптикалык дүйнөнүн дистопиялары жана образдары адатта пост-ядролук доордо коюлчу. Бүгүнкү күндө ядролук жок кылуу биз ойлогондой болбосо да, биз билгендей дүйнөнү кыйроо жана кыйроо үчүн зарыл эместей көрүнөт. , ал өзөктүк жок кылуу менен айкалышкан "Терминатордогу" дүйнөнү жок кылышы күмөн. Эгер андай болсо, ал супер интеллект эмес, примитивдүү күч болмок. Анткени, али да адамзат кыйраткыч ядролук чыр-чатактын глобалдык сценарийин түшүнө элек.

Чыныгы машина апокалипсиси алда канча азыраак таасирдүү болушу мүмкүн.

Кибер согуш, вирустук чабуулдар, системаны бузуу жана ransomware, ransomware (2) биздин дүйнөнү бомбалардан кем эмес эффективдүү түрдө кыйратат. Эгерде алардын масштабы кеңейсе, биз жалпы согуштун фазасына киришибиз мүмкүн, анда биз машиналардын курмандыктары жана барымталары болуп калабыз, бирок алардан автономиялуу иш-аракет талап кылынбайт жана адамдар дагы эле бардыгынын артында калышы мүмкүн.

Өткөн жайда АКШнын Кибер коопсуздук жана инфраструктуралык коопсуздук агенттиги (CISA) ransomware чабуулдарын "киберкоопсуздуктун эң көрүнүктүү коркунучу" деп атаган.

CISA киберкылмышкер адамдын же уюмдун маалыматтарын кармап, шифрлеп, анан кун талап кылган көптөгөн иш-аракеттер эч качан билдирилбейт, анткени жабырлануучу киберкылмышкерлерге төлөп берет жана алардын кооптуу системалары менен көйгөйлөрдү жарыялоону каалабайт деп ырастайт. Микродеңгээлде киберкылмышкерлер көбүнчө Интернеттеги чынчыл жана чынчыл эмес мазмунду айырмалай албаган улгайган адамдарды бутага алышат. Алар муну электрондук почта тиркемесинде же вирус жуккан веб-сайттагы калкып чыкмада камтылган кесепеттүү программа менен жасашат. Ошол эле учурда ири корпорацияларга, ооруканаларга, мамлекеттик мекемелерге жана өкмөттөргө кол салуулар көбөйүүдө.

Акыркылары, айрыкча, аларда сакталган купуя маалыматтар жана ири кун төлөй алуу мүмкүнчүлүгүнөн улам бутага алынган.

Кээ бир маалыматтар, мисалы, ден соолук маалыматы, ээси үчүн башкаларга караганда алда канча баалуу жана кылмышкерлерге көбүрөөк акча табышы мүмкүн. Уурулар тесттин натыйжалары же дары-дармектер тууралуу маалымат сыяктуу бейтаптарды багуу үчүн маанилүү клиникалык маалыматтардын чоң блокторун кармап же карантинге салышы мүмкүн. Жашоо коркунучунда турганда ооруканада сүйлөшүүгө орун жок. Америкалык ооруканалардын бири былтыр ноябрда августтагы террордук чабуулдан кийин биротоло жабылган.

Бул, балким, убакыттын өтүшү менен гана начарлайт. 2017-жылы АКШнын Ички коопсуздук министрлиги киберчабуулдар суу каналдары сыяктуу маанилүү инфраструктураны бутага алышы мүмкүн деп жарыялаган. Ал эми мындай иш-аракеттерди жүргүзүү үчүн керектүү куралдар барган сайын кичинекей операторлорго жеткиликтүү болуп, алар Cerber жана Petya программалары сыяктуу ransomware пакеттерин сатышат жана ийгиликтүү чабуулдардан кийин кун төлөшөт. Кызмат катары киберкылмыштуулукка негизделген.

Геномдогу коркунучтуу бузулуу

Дистопиянын популярдуу темаларынын бири - генетика, ДНК менен иштөө жана адамдардын асыл тукумдуулугу - мындан тышкары, туура жол менен "программаланган" (бийликтер, корпорациялар, аскердик).

Бул тынчсызданууларды заманбап ишке ашыруу популярдуу ыкмасы болуп саналат CRISPR генди түзөтүү (3). Анда камтылган механизмдер биринчи кезекте тынчсызданууну жаратат. каалаган функцияларды мажбурлоо кийинки муундарда жана алардын потенциалы бүтүндөй калкка жайылды. Бул техниканы ойлоп табуучулардын бири, Дженнифер Даудна, атүгүл жакында эле мүмкүн болгон каргашалуу кесепеттерге байланыштуу мындай "микробдук" редакциялоо ыкмаларына мораторий жарыялоого чакырды.

Эске салсак, мындан бир нече ай мурун кытайлык илимпоз А He Jiankui СПИД вирусуна каршы иммунизациялоо үчүн адам эмбриондорунун гендерин редакциялаганы үчүн кеңири сынга алынган. Себеби, ал жасаган өзгөртүүлөр муундан-муунга өтүп, күтүүсүз кесепеттерге алып келиши мүмкүн эле.

Өзгөчө тынчсызданууну туудурат деп аталган d (генди кайра жазуу, гендик диск), б.а. бир адамдын ДНКсындагы редакциялоо системасын коддогон генетикалык инженерия механизми CRISPR/CAS9 геному аны керексиз гендин бул вариантын оңдоого коюу менен. Ушундан улам тукумдар автоматтык түрдө (генетиктердин катышуусуз) гендин керексиз вариантын каалаган вариантка жазышат.

Бирок, гендин каалабаган вариантын тукуму өзгөртүлбөгөн башка ата-энеден "белек катары" ала алат. Ошентип, ген драйвды сындыралы Тукум куучулуктун Мендел мыйзамдарыбасымдуулук кылган гендердин жарымы ата-эненин тукумуна өтөт деп айтышат. Кыскасы, бул бара-бара бүтүндөй калкка сөз болуп жаткан ген вариантынын жайылышына алып келет.

Стэнфорд университетинин биологу Кристина Смолке, кайра 2016-жылы гендик инженерия боюнча панелде, бул механизм зыяндуу жана өзгөчө учурларда үрөй учурарлык кесепеттерге алып келиши мүмкүн экенин эскерткен. Гендик диск муундан муунга өтүп, гемофилия же гемофилия сыяктуу генетикалык ооруларды жаратат.

Риверсайд штатындагы Калифорния университетинин изилдөөчүлөрүнүн Nature Reviews журналында жарыяланган макаласында окуганыбыздай, диск организмдин бир популяциясында белгиленгендей иштесе да, ошол эле тукум куучулук касиет кандайдыр бир жол менен башкасына киргизилсе, зыяндуу болушу мүмкүн. . ошол эле көрүнүш.

Окумуштуулар гендик дисктерди жабык эшик артында жана теңдешсиз карап чыгуу коркунучу бар. Эгерде кимдир бирөө атайылап же кокустан адамдын геномуна зыяндуу гендик дискти киргизсе, мисалы, гриппке каршы турушубузду жок кылса, бул хомо сапиенс түрлөрүнүн жок болушун билдире алат...

Көзөмөл капитализм

Мурдагы фантаст-жазуучулар элестете албаган дистопиянын версиясы - адамдардын купуялыгын, мамилелерин жана психологиялык бүтүндүгүн бузуп, кеңири сүрөттөлгөн кесепеттери менен Интернеттин, өзгөчө социалдык медианын чындыгы.

Бул дүйнө жаңы көркөм спектаклдерде гана тартылган, мисалы, биз 2016-жылдагы "The Diving" (4) эпизодундагы Black Mirror сериясында көргөн нерселерибиз. Шошана Зубофф, Гарварддык экономист, бул чындыкты толугу менен социалдык өзүн-өзү ырастоодон көз каранды жана толугу менен "жүргүзүлгөн" деп атайт. көзөмөл капитализм (), жана ошол эле учурда Google жана Facebookтун таажы иши.

4. "Кара күзгүдөн" сцена - эпизод "Сууга түшүү"

Зубоффтун айтымында, Google биринчи ойлоп табуучу. Мындан тышкары, ал дайыма бейкүнөө көрүнгөн акылдуу шаар долбоорлору аркылуу, мисалы, көзөмөлдөө иш-аракеттерин кеңейтүүдө. Мисал катары Google'дун филиалы болгон Sidewalk Labs компаниясынын "Дүйнөдөгү эң инновациялык коңшулук" долбоору болуп саналат. жээк Торонтодо.

Google суу жээгиндеги жашоочулардын жашоосу, алардын кыймылы жана ал тургай дем алуусу тууралуу эң кичинекей маалыматтарды бардык жерде жайгашкан байкоочу сенсорлордун жардамы менен чогултууну пландаштырууда.

Фейсбукта сөз болбогон интернет дистопиясын тандоо да кыйын. Көзөмөл капитализмин Google ойлоп тапкандыр, бирок аны жаңы деңгээлге чыгарган Facebook болду. Бул социалдык жана эмоционалдык вирустук механизмдер жана Цукерберг платформасынын колдонуучулары болбогондорду аёосуз куугунтуктоо аркылуу ишке ашырылган.

Виртуалдык реалдуулукка чөмүлгөн, UBI менен жашаган корголгон AI

Көптөгөн футурологдордун айтымында, дүйнөнүн жана технологиянын келечеги беш аббревиатура менен белгиленет - AI, AR, VR, BC жана UBI.

"МТнын" окурмандары алардын эмне экенин жана алгачкы үчөө эмнеден турганы жакшы билишсе керек. Тааныш да төртүнчү болуп чыгат, "BC", биз эмне жөнүндө экенин түшүнгөндө. Ал эми бешинчи? UBD - бул түшүнүктүн аббревиатурасы, "универсалдуу негизги киреше » (5). Бул башка технологиялар, өзгөчө AI өнүккөн сайын жумуштан бошотулган ар бир адамга бериле турган коомдук пайда.

5. Универсалдуу негизги киреше - UBI

Швейцария бул идеяны өткөн жылы референдумга да койгон, бирок анын жарандары кепилденген кирешени киргизүү иммигранттардын агылып кетишине алып келет деп чочулап, аны четке каккан. UBI ошондой эле башка бир катар коркунучтарды, анын ичинде учурдагы социалдык теңсиздикти улантуу коркунучун алып келет.

Акронимдин артында турган ар бир технологиялык революция (ошондой эле караңыз:) - эгерде ал күтүлгөн багытта жайылып, өнүгүп кетсе - адамзат жана биздин дүйнө үчүн чоң кесепеттерге ээ, анын ичинде, албетте, дистопиянын чоң дозасы. Маселен, ал төрт жылдык шайлоо циклдерин алмаштырып, сансыз маселелер боюнча референдумга алып барышы мүмкүн деген ишеним бар.

Виртуалдык реалдуулук, өз кезегинде, адамзаттын бир бөлүгүн реалдуу дүйнөдөн "чыгарып салууга" жөндөмдүү. Маселен, кореялык Джанг Джи Сунг менен, ал кызы 2016-жылы айыккыс оорудан каза болгондон кийин, анын аватарын VR режиминде жолуктурган. Виртуалдык мейкиндик ошондой эле көйгөйлөрдүн жаңы түрлөрүн жаратат, же чындыгында бардык эски белгилүү көйгөйлөрдү "жаңы" дүйнөгө, ал тургай башка көптөгөн дүйнөлөргө өткөрүп берет. Кандайдыр бир деңгээлде биз муну социалдык тармактардан көрө алабыз, ал жерде посттордо өтө аз лайк коюу депрессияга жана суицидге алып келет.

Аздыр-көптүр пайгамбарлык жомоктор

Анткени, дистопиялык көрүнүштөрдүн жаралуу тарыхы божомолдорду түзүүдө этият болууга үйрөтөт.

6. "Аралдар тордогу" мукабасы

Өткөн жылы тартылган Ридли Скоттун атактуу фантастикалык шедевриAndroid Hunter» 1982-жылдан бери. Көптөгөн конкреттүү элементтердин аткарылышын же аткарылбагандыгын талкуулоого болот, бирок биздин доордо адамдардан көп жагынан жогору турган акылдуу, гуманоид андроиддердин бар экендиги жөнүндөгү эң маанилүү пайгамбарлык али ишке аша электиги талашсыз.

Биз дагы көптөгөн пайгамбарлык хиттерге чыдаганга даярбыз."Нейромансерлер»б.а. романдар Уильям Гибсон 1984-жылдан бери "кибермейкиндик" түшүнүгүн жайылткан.

Бирок, ошол он жылдыкта азыркы убакытты алда канча так алдын ала айткан (биздин өлкөдө дээрлик толугу менен поляк тилине которулбагандыктан) анча-мынча белгилүү китеп пайда болду. Мен романтика жөнүндө айтып жатамЖеледеги аралдар«(6) Брюс Стерлинг 1988-жылдан бери, 2023-жылы белгиленген. Ал "желе" деп аталган Интернетке окшош нерсеге чөмүлгөн дүйнөнү тартуулайт. Аны ири эл аралык корпорациялар көзөмөлдөйт. "Интернеттеги аралдар" эркин интернетти көзөмөлдөө, көзөмөлдөө жана монополиялаштыруу менен өзгөчөлөнөт.

Интернеттеги каракчыларга/террорчуларга каршы учкучсуз учуучу аппараттарды (дрондор) колдонуу менен жүргүзүлүүчү согуштук операцияларды алдын ала көрүү да кызыктуу. Операторлор миңдеген чакырым алыстыкта, коопсуз иш такталары менен - ​​муну кайдан билебиз? Китеп ислам терроризми менен бүтпөс кагылышуу тууралуу эмес, ааламдашууга каршы турган күчтөр менен күрөш жөнүндө. Тармактагы Аралдар дүйнөсү ошондой эле акылдуу сааттарга жана акылдуу спорттук бут кийимдерге окшош керектөөчү шаймандарга толгон.

80-жылдардагы дагы бир китеп бар, ал окуялардын айрымдары фантастикалык көрүнгөнү менен, биздин азыркы дистопиялык коркуу сезимдерибизди жакшы чагылдырат. Бул "Georadar программалык камсыздоо", Тарых Руди Рукер2020-жылы белгиленген. Дүйнө, коомдун абалы жана анын конфликттери бүгүнкү күндө биз көрүп жаткан нерсеге укмуштуудай окшош. Боппер деп аталган роботтор да бар, алар өздөрүн түшүнүп, Айдагы шаарларга качып кетишкен. Бул элемент али ишке аша элек, бирок машиналардын козголоңу кара божомолдордон тынымсыз баш тартууга айланып баратат.

Китептердеги биздин замандын көрүнүштөрү да көп жагынан таң калыштуу так. Октавиа Батлер, айрыкчаСебүүчү жөнүндөгү мисалдар» (1993). Акция 2024-жылы Лос-Анжелесте башталып, климаттын өзгөрүшүнө байланыштуу сел, бороон жана кургакчылыктан кыйраган Калифорнияда өтөт. Орто жана жумушчу класстын үй-бүлөлөрү сырткы дүйнөдөн көз карандылыкты пайда кылуучу баңгизаттар жана виртуалдык реалдуулук комплекттери менен качууга аракет кылып, дарбазалуу жамааттарда жолугушат. Жаңы диндер жана кутумдук теориялар пайда болууда. Качкындар кербени экологиялык жана социалдык кыйроодон сактануу үчүн түндүктү көздөй барат. "Американы кайрадан улуу кыл" (бул Дональд Трамптын урааны) шайлоо өнөктүгүнүн урааны менен бийликке президент келет ...

Батлердин экинчи китеби, "Таланттар жөнүндөгү мисалжаңы диний культтун мүчөлөрү Alpha Centauri колониясын алуу үчүн космостук кемеде Жерден кантип кеткенин айтып берет.

***

Биздин күнүмдүк жашообузга байланыштуу бир нече ондогон жылдар мурун жасалган бул кеңири изилдөөдөн кандай сабак бар?

Балким, чындык дистопия көп кездешет, бирок көбүнчө жарым-жартылай.