Ичиндеги оюңузду мышыкча айтыңыз - кара куту эффектиси

Өркүндөтүлгөн AI алгоритмдеринин кара кутуга (1) окшоп, натыйжанын кантип пайда болгонун ачыкка чыгарбай ыргытып жибергени айрымдарды тынчсыздандырып, башкаларды капа кылууда.

2015-жылы Нью-Йорктогу Синай тоосунун ооруканасынын изилдөө тобуна жергиликтүү бейтаптардын кеңири маалымат базасын талдоо үчүн бул ыкманы колдонуу сунушталган (2). Бул чоң коллекция пациенттердин маалыматын, тесттин жыйынтыктарын, рецепттерди жана башкаларды камтыйт.

Окумуштуулар иштин жүрүшүндө иштелип чыккан аналитикалык программа деп аташкан. Ал болжол менен 700 XNUMX адамдын маалыматтары боюнча тренинг өткөрдү. адам жана жаңы реестрлерде текшерилгенде, ал ооруну алдын ала айтууда абдан натыйжалуу экени далилденген. Адамдардын адистеринин жардамысыз ал оорукананын документтеринен боор рагы сыяктуу оорунун жолунда кайсы бейтаптын жолунда экенин көрсөткөн үлгүлөрдү ачкан. Эксперттердин айтымында, системанын прогностикалык жана диагностикалык эффективдүүлүгү белгилүү болгон башка методдордон алда канча жогору болгон.

2. Пациенттердин маалымат базасына негизделген медициналык жасалма интеллект системасы

Ошол эле учурда изилдөөчүлөр анын сырдуу түрдө иштеп жатканын байкашкан. Ал үчүн, мисалы, идеалдуу болуп чыкты психикалык бузулууларды таануумисалы, шизофрения сыяктуу дарыгерлер үчүн өтө кыйын. Бул таң калыштуу болду, айрыкча, AI системасы пациенттин медициналык жазууларына негизделген психикалык ооруну кантип мынчалык жакшы көрө аларын эч ким билчү эмес. Ооба, адистер мындай натыйжалуу машина диагностикасынын жардамы менен абдан ыраазы болушкан, бирок AI кандай жыйынтыкка келерин түшүнүшсө, алар алда канча ыраазы болмок.

Жасалма нейрондордун катмарлары

Эң башынан, башкача айтканда, жасалма интеллект түшүнүгү белгилүү болгон учурдан тартып AI боюнча эки көз караш болгон. Биринчиси белгилүү принциптерге жана адамдык логикага ылайык ой жүгүрткөн машиналарды куруу эң акылга сыярлык, алардын ички иштерин ар бир адам үчүн ачык кылууну сунуш кылган. Башкалары машиналар байкоо жана кайталап эксперимент аркылуу үйрөнсө, интеллект оңой пайда болот деп ишенишкен.

Акыркысы типтүү компьютердик программалоону артка кайтарууну билдирет. Программист маселени чечүү үчүн буйруктарды жазуунун ордуна, программа жаратат өз алгоритми үлгү маалыматтарына жана каалаган натыйжага негизделген. Кийинчерээк бүгүнкү күндө белгилүү болгон эң күчтүү AI системаларына айланган машинаны үйрөнүү ыкмалары, чындыгында, машина өзү программалайт.

Бул ыкма 60-70-жылдары AI системаларын изилдөөнүн чегинде калган. Өткөн он жылдыктын башында гана, кээ бир пионердик өзгөрүүлөрдөн жана жакшыртуулардан кийин, "Терең" нейрон тармактары автоматташтырылган кабыл алуунун мумкунчулуктерунун туп-тамырынан бери жакшыргандыгын керсете баштады. 

Терең машина үйрөнүү компьютерлерге укмуштуудай жөндөмдүүлүктөргө ээ, мисалы, айтылган сөздөрдү адамдыкындай так таануу жөндөмүн берди. Бул алдын ала программалоо үчүн өтө татаал жөндөм. машина тарабынан өзүнүн "программасын" түзө алышы керек чоң маалымат топтому боюнча тренинг.

Терең үйрөнүү компьютердеги сүрөттү таанууну да өзгөрттү жана машиналык которуунун сапатын бир топ жакшыртты. Бүгүнкү күндө ал медицинада, финансыда, өндүрүштө жана башкаларда ар кандай негизги чечимдерди кабыл алуу үчүн колдонулат.

Бирок, мунун баары менен "Ичиндеги" кантип иштээрин көрүү үчүн терең нейрон тармагынын ичин карап отура албайсыз. Тармактык ой жүгүртүү процесстери миңдеген симуляцияланган нейрондордун жүрүм-турумуна камтылган, алар бири-бири менен тыгыз байланышкан ондогон, ал тургай жүздөгөн катмарларга уюшулган..

Биринчи катмардагы нейрондордун ар бири сүрөттөлүштөгү пикселдин интенсивдүүлүгү сыяктуу киргизүүнү алат, андан кийин чыгарууну чыгарардан мурун эсептөөлөрдү жүргүзөт. Алар татаал тармакта кийинки катмардын нейрондоруна берилет - жана башка акыркы чыгуу сигналына чейин. Мындан тышкары, окутуу тармагы каалаган натыйжаны чыгарышы үчүн жеке нейрондор тарабынан жасалган эсептөөлөрдү тууралоо деп аталган бир процесс бар.

Иттин сүрөтүн таанууга байланыштуу көп келтирилген мисалда AIнин төмөнкү деңгээлдери форма же түс сыяктуу жөнөкөй мүнөздөмөлөрдү талдайт. Жогоркулары жүн же көз сыяктуу татаалыраак маселелерди чечет. Үстүнкү катмар гана анын баарын чогултуп, маалыматтын толук топтомун ит катары аныктайт.

Ушул эле ыкманы машинанын өзүн үйрөнүүсүнө түрткү берүүчү киргизүүнүн башка түрлөрүнө да колдонсо болот: кептеги сөздөрдү түзгөн тыбыштар, жазуу жүзүндөгү тексттеги сүйлөмдөрдү түзгөн тамгалар жана сөздөр, же, мисалы, руль. транспорт каражатын айдоо үчүн зарыл болгон кыймылдар.

Машина эч нерсени өткөрүп жибербейт.

Мындай системаларда так эмне болуп жатканын түшүндүрүүгө аракет жасалат. 2015-жылы Google изилдөөчүлөрү сүрөттөрдү таануунун терең үйрөнүү алгоритмин өзгөртүп, сүрөттөрдөгү объектилерди көрүүнүн ордуна аларды жаратып же өзгөрткөн. Алгоритмди артка карай иштетүү менен, алар программа канаттууну же имаратты таануу үчүн колдонгон мүнөздөмөлөрдү табууну каалашкан.

Элге аталышы катары белгилүү болгон бул эксперименттер (3) гротеск, таң калыштуу жаныбарлар, пейзаждар жана каармандардын укмуштуудай сүрөттөлүштөрүн жараткан. Машиналарды кабыл алуунун кээ бир сырларын ачып берүү менен, мисалы, белгилүү бир калыптардын кайра-кайра кайтарылып, кайталанып жатышы, алар ошондой эле терең машина үйрөнүү адамдын кабылдоосунан канчалык айырмаланарын көрсөтүштү - мисалы, биз көңүл бурбай койгон артефакттарды кеңейтүү жана кайталоо маанисинде. ойлонбостон кабыл алуу процессибизде. .

3. Долбоордо түзүлгөн сүрөт

Айтмакчы, экинчи жагынан, бул эксперименттер биздин өзүбүздүн таанып билүү механизмдерибиздин сырын ачты. Балким, биздин түшүнүгүбүздө ар кандай түшүнүксүз компоненттер бар, алар бизди дароо бир нерсени түшүнүүгө жана этибарга албай коюуга мажбурлайт, ал эми машина чыдамдуулук менен "маанисиз" объекттерде кайталоону кайталайт.

Башка сыноолор жана изилдөөлөр машинаны "түшүнүү" аракетинде жүргүзүлдү. Джейсон Йосински ал мээге тыгылган зонд сыяктуу иш алып барган, каалаган жасалма нейронду бутага алган жана аны эң күчтүү активдештирген сүрөттөлүштү издеген куралды жараткан. Акыркы экспериментте тармакты кызыл-тазыл менен «карап көрүүнүн» натыйжасында абстрактуу сүрөттөр пайда болду, бул системада болуп жаткан процесстерди ого бетер сырдуу кылды.

Бирок, көптөгөн илимпоздор үчүн мындай изилдөө түшүнбөстүк болуп саналат, анткени, алардын пикири боюнча, системаны түшүнүү, татаал чечимдерди кабыл алуунун жогорку тартиптеги мыйзам ченемдүүлүктөрүн жана механизмдерин таануу үчүн, бардык эсептөө өз ара аракеттенүү терең нейрон тармагында. Бул математикалык функциялардын жана өзгөрмөлөрдүн ири лабиринти. Учурда бул биз үчүн түшүнүксүз.

Компьютер иштебей жатабы? Неге?

Өнүккөн жасалма интеллект системаларынын чечим кабыл алуу механизмдерин түшүнүү эмне үчүн маанилүү? Математикалык моделдер азыртан эле камактагылардын кайсынысын шарттуу түрдө бошотууга болорун, кимге кредит берип, ким жумушка орношо аларын аныктоодо. Кызыккандар башка эмес, эмне үчүн ушундай чечим кабыл алынганын, анын негизи жана механизми кандай экенин билгиси келет.

ал 2017-жылдын апрелинде MIT Technology Reviewде мойнуна алды. Томми Яаккола, MIT профессору, машинаны үйрөнүү үчүн тиркемелерде иштеген. -.

Ал тургай, AI системаларынын чечимдерди кабыл алуу механизмин тыкыр текшерүү жана түшүнүү адамдын негизги укугу деген юридикалык жана саясий позиция бар.

2018-жылдан бери ЕБ компаниялардан автоматташтырылган системалар тарабынан кабыл алынган чечимдер жөнүндө кардарларына түшүндүрмө берүүнү талап кылуунун үстүндө иштеп жатат. Көрсө, бул кээде салыштырмалуу жөнөкөй көрүнгөн системалар менен да мүмкүн эмес экен, мисалы, жарнамаларды көрсөтүү же ырларды сунуштоо үчүн терең илимди колдонгон колдонмолор жана веб-сайттар.

Бул кызматтарды иштеткен компьютерлер өздөрү программалашат жана муну биз түшүнө албаган жолдор менен жасашат... Бул тиркемелерди жараткан инженерлер да анын кантип иштээрин толук түшүндүрө алышпайт.