Категориялық айқас энтропияны не үшін пайдалану керек?

Мазмұны:

Категориялық айқас энтропияны не үшін пайдалану керек?
Категориялық айқас энтропияны не үшін пайдалану керек?
Anonim

Категориялық кроссентропия – көп класты жіктеу тапсырмаларында қолданылатын жоғалту функциясы. Бұл мысал көптеген мүмкін санаттардың біреуіне ғана тиесілі болатын тапсырмалар және үлгі қайсысын шешуі керек. Ресми түрде бұл екі ықтималдық үлестірімі арасындағы айырмашылықты сандық анықтауға арналған.

Неге MSE орнына айқас энтропияны қолдану керек?

Біріншіден, кросс-энтропия (немесе жұмсақ макс жоғалту, бірақ кросс-энтропия жақсы жұмыс істейді) жіктеу үшін MSE-ге қарағанда жақсы көрсеткіш, себебі жіктеу тапсырмасындағы шешім шекарасы үлкен(регрессиямен салыстырғанда). … Регрессия мәселелері үшін сіз әрқашан дерлік MSE қолданасыз.

Сирек айқас энтропия мен категориялық айқас энтропияның айырмашылығы неде?

Сирек категориялық айқас энтропия мен категориялық айқас энтропия арасындағы жалғыз айырмашылық - шын белгілер пішімі. Бір таңбалы, көп сыныпты жіктеу мәселесі болған кезде, белгілер әрбір деректер үшін бір-бірінен ерекшеленетін болады, яғни әрбір деректер жазбасы тек бір сыныпқа тиесілі болуы мүмкін.

Категориялық айқас энтропия жоғалтуын қалай түсіндіресіз?

Айқас энтропия үлгінің болжамды ықтималдығы нақты мәннен алшақ болған сайын артады. Сондықтан, нақты белгі 1 мәніне ие болғанда 0,05 ықтималдығын болжау айқас энтропия жоғалтуын арттырады. сол үлгі үшін 0 және 1 арасындағы болжамды ықтималдықты білдіреді.

Айқас энтропия неге жақсы?

Жалпы, біз көріп отырғанымыздай, кросс-энтропия модельдің ықтималдығын өлшеудің қарапайым тәсілі. Кросс-энтропия пайдалы, өйткені ол үлгінің қаншалықты ықтимал екенін және әрбір деректер нүктесінің қате функциясынсипаттай алады. Оны болжамды нәтижені шынайы нәтижемен салыстыру үшін де қолдануға болады.

Ұсынылған:

Қызықты мақалалар
Биглдер аң аулау үшін өсірілді ме?
Ары қарай оқу

Биглдер аң аулау үшін өсірілді ме?

Олар бумамен аң аулау үшін өсірілді, сондықтан олар серіктестіктен ләззат алады және әдетте қарапайым. Биглдің екі түрі бар: иықта 13 дюймден төмен тұрғандар және 13-15 дюйм аралығындағылар. Иттер айтқандай, екі сорт та берік, қатты және "

Серотиндік сөздің мағынасы қандай?
Ары қарай оқу

Серотиндік сөздің мағынасы қандай?

: тұқымның таралуы кешіктірілген немесе біртіндеп пайда болатын серотинді конустармен ағашта жабық қалды. Серотинді өсімдіктер дегеніміз не? Серотиния - конус тәрізді немесе ағаш тәрізді жемістер ішінде тыныш емес тұқымдарын бірнеше жылға дейін сақтайтын, бірақ отқа ұшырағаннан кейін оларды босататын кейбір өсімдік түрлерініңмінез-құлқы.

Розанна қолма-қол ақшасы неше жаста?
Ары қарай оқу

Розанна қолма-қол ақшасы неше жаста?

Розан Кэш - американдық әнші-композитор және автор. Ол кантри-музыкант Джонни Кэш пен Вивиан Либерто Кэш Дистиннің үлкен қызы, Джонни Кэштің бірінші әйелі. Розан Кэш қай ұлттың өкілі? Розан Кэш, (1955 жылы 24 мамырда туған, Мемфис, Теннесси, АҚШ), американдық әнші-композитор, ол өзінің ашық сыңғырлаған дауысымен және жиі жеке әндерімен ерекшеленді.