Байес тармактары: аныктама, мисалдар жана алар кантип иштешет

Мазмуну:

Байес тармактары: аныктама, мисалдар жана алар кантип иштешет
Байес тармактары: аныктама, мисалдар жана алар кантип иштешет
Anonim

Ишеним, чечим тармагы, Байездик (иан) модели же ыктымалдыкка негизделген ациклдик график модели – багытталган ациклдик график (DAG) аркылуу өзгөрмөлөрдүн жыйындысын жана алардын шарттуу көз карандылыгын билдирген варианттык схема (статистикалык моделдин бир түрү)).

Мисалы, Байес тармагы оорулар менен симптомдордун ортосундагы ыктымалдык байланыштарды көрсөтө алат. Акыркысын эске алганда, тармак ар кандай ооруларга ээ болуу мүмкүнчүлүгүн эсептөө үчүн колдонулушу мүмкүн. Төмөнкү видеодо сиз эсептөөлөр менен Байесиялык ишеним тармагынын мисалын көрө аласыз.

Image
Image

Натыйжалуулук

Натыйжалуу алгоритмдер Байезиан тармактарында тыянак чыгара алат жана үйрөнө алат. Өзгөрмөлөрдү (мисалы, сүйлөө сигналдары же белок ырааттуулугу) моделдөөчү тармактар динамикалык тармактар деп аталат. Белгисиздиктин шартында маселелерди чагылдыра жана чече ала турган Байездик тармактардын жалпылоолору таасир диаграммалары деп аталат.

Эссенция

Формалдуу түрдөБайездик тармактар - бул DAGлар, алардын түйүндөрү Байездик мааниде өзгөрмөлөрдү билдирет: алар байкалган баалуулуктарды, жашыруун өзгөрмөлөрдү, белгисиз параметрлерди же гипотезаларды көрүүгө болот. Анткени бул абдан кызыктуу.

Байес тармагы мисалы

Эки окуя чөптүн суу болушуна алып келиши мүмкүн: активдүү спринклер же жамгыр. Жамгыр жаадыргычты колдонууга түздөн-түз таасирин тийгизет (тактап айтканда, жамгыр жааганда жаадыргыч көбүнчө иштебейт). Бул жагдайды Байес тармагы аркылуу моделдештирүүгө болот.

Типтүү формула
Типтүү формула

Симуляция

Байес тармагы анын өзгөрмөлөрү жана алардын мамилелери үчүн толук үлгү болгондуктан, алар тууралуу ыктымалдык суроолорго жооп берүү үчүн колдонсо болот. Мисалы, башка маалыматтар (далил өзгөрмөлөрү) байкалганда өзгөрмөлөрдүн бир бөлүгүнүн абалы жөнүндө билимди жаңыртуу үчүн колдонулушу мүмкүн. Бул кызыктуу процесс ыктымалдык корутунду деп аталат.

A posteriori өзгөрмөлөрдүн чакан жыйындысы үчүн маанилерди тандоодо табуу колдонмолору үчүн универсалдуу жетиштүү статистиканы берет. Ошентип, бул алгоритмди татаал маселелерге Байес теоремасын автоматтык түрдө колдонуу механизми катары кароого болот. Макаладагы сүрөттөрдө Байесиялык ишеним тармактарынын мисалдарын көрө аласыз.

Практикалык Байес тармагы
Практикалык Байес тармагы

Чыгуу ыкмалары

Эң кеңири таралган так тыянак чыгаруу ыкмалары: өзгөрүлмөлөрдү жок кылуу, ал (интеграция же суммалоо жолу менен) байкалбаганды жок кылатөнүмгө сумманы бөлүштүрүү менен суроо-талап эмес параметрлер.

Көптөгөн өзгөрмөлөр бир эле учурда суралып, жаңы далилдерди тез жайылтуу үчүн эсептөөлөрдү кэштеген "дарактын" жайылышын чыкылдатыңыз; жана рекурсивдүү дал келүү жана/же издөө, бул мейкиндик менен убакыттын ортосунда келишүүгө мүмкүндүк берет жана жетиштүү мейкиндик колдонулганда өзгөрмөлөрдү жок кылуунун натыйжалуулугуна дал келет.

Бул ыкмалардын баары тармактын узундугуна экспоненциалдуу түрдө көз каранды болгон өзгөчө татаалдыкка ээ. Эң кеңири таралган болжолдуу тыянак алгоритмдери - мини-сегментти жок кылуу, ишенимди циклдик жайылтуу, жалпыланган ишенимди жайылтуу жана вариациялык ыкмалар.

Тармактардын түрлөрү
Тармактардын түрлөрү

Тармак

Байездик тармакты толук көрсөтүү жана ошентип биргелешкен ыктымалдык бөлүштүрүүнү толук көрсөтүү үчүн, ар бир X түйүнү үчүн Xтин ата-энесине байланыштуу X үчүн ыктымалдык бөлүштүрүүнү көрсөтүү керек.

Хтин ата-энеси тарабынан шарттуу түрдө бөлүштүрүлүшү ар кандай формада болушу мүмкүн. Эсептөөлөрдү жөнөкөйлөткөндүктөн, дискреттик же гаусстук бөлүштүрүүлөр менен иштөө кеңири таралган. Кээде бөлүштүрүү чектөөлөрү гана белгилүү. Андан кийин чектөөлөр берилген эң жогорку энтропияга ээ болгон бирдиктүү бөлүштүрүүнү аныктоо үчүн энтропияны колдонсоңуз болот.

Ошондой эле, динамикалык Байес тармагынын спецификалык контекстинде латенттин убактылуу эволюциясы үчүн шарттуу бөлүштүрүүабал адатта болжолдонгон кокус процесстин энтропия ылдамдыгын максималдаштыруу үчүн коюлат.

Байездик ишеним желе
Байездик ишеним желе

Иктималдуулукту (же арткы ыктымалдуулукту) түздөн-түз максимизациялоо көп учурда байкалбаган өзгөрмөлөрдүн бар экенин эске алганда татаал. Бул өзгөчө Bayesian чечим тармагына тиешелүү.

Классикалык ыкма

Бул көйгөйгө классикалык мамиле күтүүнү максимизациялоо алгоритми болуп саналат, ал байкалган маалыматтарга көз каранды байкалбаган өзгөрмөлөрдүн күтүлгөн маанилерин эсептөөнү жалпы ыктымалдуулукту (же арткы маанини) максимизациялоо менен кезектешип, мурда эсептелген күтүлгөн деп эсептейт. баалуулуктар туура. Орто мыйзамдуулуктун шарттарында бул процесс параметрлердин максималдуу (же максималдуу a posteriori) маанилерине жакындайт.

Параметрлерге карата толук Байездик ыкма аларды кошумча байкалбаган өзгөрмөлөр катары кароо жана байкалган маалыматтар берилген бардык түйүндөр боюнча толук арткы бөлүштүрүүнү эсептөө, андан кийин параметрлерди интеграциялоо болуп саналат. Бул ыкма кымбат болуп, чоң моделдерге алып келиши мүмкүн, бул классикалык параметрлерди жөндөө ыкмаларын жеткиликтүү кылат.

Жөнөкөй учурда, Байес тармагы эксперт тарабынан аныкталып, андан соң жыйынтык чыгаруу үчүн колдонулат. Башка колдонмолордо аныктоо милдети адам үчүн өтө оор. Бул учурда Байездик нейрон тармагынын түзүмүн жана локалдык бөлүштүрүүнүн параметрлерин маалыматтар арасында үйрөнүү керек.

Байес тармактары
Байес тармактары

Альтернативалуу ыкма

Структураланган окутуунун альтернативалуу ыкмасы оптималдаштыруу издөөнү колдонот. Бул баалоо функциясын жана издөө стратегиясын колдонууну талап кылат. Жалпы балл коюу алгоритми - бул BIC же BDeu сыяктуу машыгуу берилиштери берилген структуранын арткы ыктымалдыгы.

Упайды максималдаштыруучу структураны кайтарган толук издөө үчүн талап кылынган убакыт өзгөрмөлөрдүн санында суперэкпоненциалдык. Жергиликтүү издөө стратегиясы структураны баалоону жакшыртуу үчүн кошумча өзгөртүүлөрдү киргизет. Фридман жана анын кесиптештери каалаган структураны табуу үчүн өзгөрмөлөр ортосундагы өз ара маалыматты колдонууну карашты. Алар ата-энелик талапкерлердин топтомун k түйүн менен чектеп, аларды кылдат издешет.

BNди так изилдөөнүн өзгөчө тез ыкмасы бул маселени оптималдаштыруу маселеси катары элестетүү жана бүтүн программалоону колдонуу менен чечүү. Бүтүн программага (IP) циклдик чектөөлөр кесүүчү тегиздиктер түрүндө чечүү учурунда кошулат. Мындай ыкма 100 өзгөрмөлүү маселелерди чече алат.

Графиктер жана тармактар
Графиктер жана тармактар

Маселени чечүү

Миңдеген өзгөрмөлүү маселелерди чечүү үчүн башка ыкма керек. Бири, адегенде бир тартипти тандап, андан кийин ошол тартипке карата оптималдуу BN түзүмүн табуу. Бул мүмкүн болгон тартипти издөө мейкиндигинде иштөөнү билдирет, бул тармактык структуралардын мейкиндигинен кичине болгондуктан ыңгайлуу. Андан кийин бир нече буйруктар тандалып, бааланат. Бул ыкма чыктыөзгөрмөлөрдүн саны көп болгондо адабиятта эң жакшы.

Дагы бир ыкма - MLE жабылган, ажырай турган моделдердин субклассына көңүл буруу. Андан кийин жүздөгөн өзгөрмөлөр үчүн ырааттуу структураны таба аласыз.

Чектелген үч сызык менен Байездик тармактарды изилдөө так, чечмеленүүчү жыйынтыкты камсыз кылуу үчүн зарыл, анткени акыркысынын эң начар татаалдыгы к дарак узундугунда экспоненциалдуу (экспоненциалдык убакыт гипотезасына ылайык). Бирок, графиктин глобалдык касиети катары, ал окуу процессинин татаалдыгын бир топ жогорулатат. Бул контекстте, K-дарагы натыйжалуу үйрөнүү үчүн колдонулушу мүмкүн.

Кыска тармак
Кыска тармак

Өнүгүү

Байесиялык ишеним желесин иштеп чыгуу көбүнчө DAG G түзүлүшү менен башталат, мындайча X жергиликтүү Марковдун Gге карата менчигин канааттандырат. Кээде бул себептүү DAG болуп саналат. G-де ар бир өзгөрмөнүн ата-энесине карата шарттуу ыктымалдык бөлүштүрүлүшү бааланат. Көп учурларда, атап айтканда, өзгөрмөлөр дискреттүү болгондо, эгерде Xтин биргелешкен бөлүштүрүлүшү ушул шарттуу бөлүштүрүүнүн продуктысы болсо, анда X Байездик тармакка айланат. G.

Марковдун "түйүн көрпөсү" түйүндөрдүн жыйындысы. Марков көрпө түйүнүн бирдей аталыштагы түйүндүн калган бош бөлүгүнөн көз карандысыз кылат жана анын бөлүштүрүлүшүн эсептөө үчүн жетиштүү билим болуп саналат. Эгерде ар бир түйүн Марковианы эске алганда, бардык башка түйүндөрдөн шарттуу түрдө көз карандысыз болсо, X - G-ге карата Байес тармагы.жууркан.

Сунушталууда: