奧術(shù)擾動(dòng)(奧術(shù)擾動(dòng)任務(wù)怎么做)

本文講述使用無監(jiān)督數(shù)據(jù)增強(qiáng)（UDA）在半監(jiān)督學(xué)習(xí)（SSL）中取得的進(jìn)展。

為了理解"半監(jiān)督"，我們首先簡(jiǎn)要介紹一下無監(jiān)督學(xué)習(xí)、監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。

無監(jiān)督學(xué)習(xí)

無監(jiān)督學(xué)習(xí)是一種有組織的赫布Hebbian學(xué)習(xí)，有助于在沒有預(yù)先存在的標(biāo)簽的情況下找到數(shù)據(jù)集中以前未知的模式。它也被稱為自組織，允許對(duì)給定輸入的概率密度進(jìn)行建模。

如果它確實(shí)是一種赫布學(xué)習(xí)，那會(huì)帶來什么？

赫布學(xué)習(xí)是最古老的學(xué)習(xí)算法之一，并且在很大程度上基于生物系統(tǒng)的動(dòng)力學(xué)。當(dāng)突觸兩側(cè)的神經(jīng)元（輸入和輸出）具有高度相關(guān)的輸出時(shí)，兩個(gè)神經(jīng)元之間的突觸得到加強(qiáng)。

赫布理論是一種神經(jīng)科學(xué)理論，聲稱突觸效應(yīng)的增加源于突觸前細(xì)胞對(duì)突觸后細(xì)胞的重復(fù)和持續(xù)刺激。它試圖解釋突觸可塑性，即學(xué)習(xí)過程中大腦神經(jīng)元的適應(yīng)性。

唐納德·希伯在1949年出版一書中介紹了這一理論。本書已成為人工神經(jīng)網(wǎng)絡(luò)（ANN）發(fā)展基礎(chǔ)的一部分。

在心理學(xué)中，它是如何在哺乳動(dòng)物大腦中實(shí)施神經(jīng)元連接的假設(shè); 它也是一種人工神經(jīng)網(wǎng)絡(luò)中的權(quán)重選擇技術(shù)。算法可以更新現(xiàn)代人工神經(jīng)網(wǎng)絡(luò)中神經(jīng)連接的權(quán)重。通過改變神經(jīng)權(quán)重和關(guān)聯(lián)，工程師可以從ANN中獲得不同的結(jié)果。

（1）無監(jiān)督，通過對(duì)刺激的實(shí)際反應(yīng)來加強(qiáng)權(quán)重；（2）監(jiān)督，通過期望的反應(yīng)加強(qiáng)權(quán)重。無監(jiān)督的Hebbian學(xué)習(xí)（關(guān)聯(lián)）具有權(quán)重變得任意大的問題，并且沒有權(quán)重減少的機(jī)制。

無監(jiān)督學(xué)習(xí)是包括監(jiān)督和強(qiáng)化學(xué)習(xí)在內(nèi)的主要三類機(jī)器學(xué)習(xí)之一。

無監(jiān)督學(xué)習(xí)中使用的兩種主要方法是：

主成分分析（PCA）是一種統(tǒng)計(jì)過程，它使用正交變換將可能相關(guān)變量的一組觀察值（每個(gè)實(shí)體都采用各種數(shù)值）轉(zhuǎn)換為一組稱為主成分的線性不相關(guān)變量值。

PCA 以（1,3）為中心，在（0.866,0.5）方向上的標(biāo)準(zhǔn)偏差為3，在正交方向上的標(biāo)準(zhǔn)偏差為1。所示的是由相應(yīng)特征值的平方根縮放的的特征向量，并且移位使得它們的尾部處于平均值。

聚類分析用于無監(jiān)督學(xué)習(xí)，以對(duì)具有共享屬性的數(shù)據(jù)集進(jìn)行分組或分段，以推斷算法關(guān)系。聚類分析是機(jī)器學(xué)習(xí)的一個(gè)分支，它對(duì)未標(biāo)記，分類或分類的數(shù)據(jù)進(jìn)行分組。該分析確定數(shù)據(jù)中的共性，并基于每個(gè)新數(shù)據(jù)中是否存在這些共性來做出反應(yīng)。此方法有助于檢測(cè)不適合任何一組的異常數(shù)據(jù)點(diǎn)。

聚類分析的結(jié)果顯示為將正方形著色為三個(gè)聚類。

無法精確定義"集群"的概念，這是存在如此多聚類算法的原因之一。

使用的密度估計(jì)演示：真密度是以0和3為中心的兩個(gè)高斯的混合，用藍(lán)色曲線顯示。在每個(gè)幀中，從分布中生成100個(gè)樣本，以紅色顯示。以每個(gè)樣本為中心，以灰色繪制高斯核。對(duì)高斯求平均得到密度估計(jì)，如虛線黑色曲線所示。

密度估計(jì)的非常自然的用途是對(duì)給定數(shù)據(jù)集的屬性進(jìn)行非正式調(diào)查。密度估計(jì)可以為數(shù)據(jù)中的偏度和多模態(tài)等特征提供有價(jià)值的指示。在某些情況下，他們會(huì)得出結(jié)論，然后可能被認(rèn)為是顯而易見的，而在另一些情況下，他們所做的只是為進(jìn)一步分析或數(shù)據(jù)收集指明道路。

（1）概率論和統(tǒng)計(jì)學(xué)中的偏度是實(shí)值隨機(jī)變量關(guān)于其均值的概率分布不對(duì)稱性的度量。偏度值可以是正的或負(fù)的，或未定義。許多模型假設(shè)正態(tài)分布; 即，數(shù)據(jù)關(guān)于均值對(duì)稱。正態(tài)分布的偏度為零。但實(shí)際上，數(shù)據(jù)點(diǎn)可能不是完全對(duì)稱的。因此，理解數(shù)據(jù)集的偏度表明偏離平均值是正面還是負(fù)面。

（2）最基本意義上的多模態(tài)是一種交流理論和社會(huì)符號(hào)學(xué)。多模態(tài)描述了用于撰寫消息的文本，聽覺，語言，空間和視覺資源（或模式）方面的交流實(shí)踐。

對(duì)于人工智能領(lǐng)域，多模態(tài)可以意味著使用機(jī)器學(xué)習(xí)技術(shù)將不同的信號(hào)一起解釋，例如文本和圖片。

科學(xué)出版商IGI Global對(duì)什么是多模態(tài)進(jìn)行了概述？

一種形式，或者更明確地說，一種信息表示形式，是一種在某種媒介中表示信息的方式，多模態(tài)允許同時(shí)綜合使用各種形式的交互，多種類型的媒體數(shù)據(jù)，或多種方面的一個(gè)數(shù)據(jù)項(xiàng)。它的重點(diǎn)是存在多種類型的數(shù)據(jù)。例如，數(shù)字廣播新聞視頻的剪輯具有多種形式，包括音頻，視頻幀，隱藏字幕（文本）等。

在統(tǒng)計(jì)中，多模態(tài)分布是具有兩種或更多種模式的連續(xù)概率分布。

雙變量，多模態(tài)分布

通過他解釋了無監(jiān)督學(xué)習(xí)在人類機(jī)器學(xué)習(xí)中的實(shí)用性：

無監(jiān)督學(xué)習(xí)通常用于預(yù)處理數(shù)據(jù)。通常，這意味著在將其饋送到深度神經(jīng)網(wǎng)絡(luò)或其他監(jiān)督學(xué)習(xí)算法之前，以與PCA或SVD類似的方式對(duì)其進(jìn)行壓縮。

關(guān)于無監(jiān)督學(xué)習(xí)的主題當(dāng)然還有很多要說的，但我們將繼續(xù)進(jìn)行有監(jiān)督的學(xué)習(xí)。

在監(jiān)督學(xué)習(xí)中，最佳方案將允許算法正確地確定看不見的實(shí)例的類標(biāo)簽。

通常認(rèn)為兩個(gè)重要方面是分類和回歸。

分類是識(shí)別新觀察所屬的一組類別（子群體）中的哪一個(gè)的問題。

回歸分析是一組用于估計(jì)變量之間關(guān)系的統(tǒng)計(jì)過程。

根據(jù)Stuart J. Rusll，Peter Norvig（2010）在人工智能：現(xiàn)代方法中的應(yīng)用： 監(jiān)督學(xué)習(xí)是學(xué)習(xí)函數(shù)的機(jī)器學(xué)習(xí)任務(wù)，該函數(shù)基于示例輸入 - 輸出對(duì)將輸入映射到輸出。

1. 具有訓(xùn)練樣例的標(biāo)記訓(xùn)練數(shù)據(jù)的功能。

2. 每個(gè)示例都是一對(duì)（輸入 - 輸出）輸入對(duì)象和輸出值。

3. 監(jiān)督學(xué)習(xí)算法分析訓(xùn)練數(shù)據(jù)并產(chǎn)生推斷的功能。

4. 推斷的函數(shù)可用于映射新示例。

通常傳播或共享的步驟多于這些步驟。

最佳方案將允許算法正確地確定看不見的實(shí)例的類標(biāo)簽。這要求學(xué)習(xí)算法以"合理"的方式從訓(xùn)練數(shù)據(jù)推廣到看不見的情況。

可能存在歸納偏差：學(xué)習(xí)者用來預(yù)測(cè)輸出的一組假設(shè)，它沒有遇到輸入。盡管大多數(shù)學(xué)習(xí)算法都具有靜態(tài)偏差，但是一些算法旨在在獲取更多數(shù)據(jù)時(shí)改變其偏差。這不會(huì)避免偏差，因?yàn)槠七^程本身必須具有偏差。

一些挑戰(zhàn)可能是：

· 偏差和方差權(quán)衡。幾種不同但同樣好的訓(xùn)練數(shù)據(jù)集。您是否應(yīng)該靈活地適應(yīng)數(shù)據(jù)？如果它太靈活，它可能以不同方式適合每個(gè)訓(xùn)練數(shù)據(jù)集。

· 功能復(fù)雜性和訓(xùn)練數(shù)據(jù)量。具有高偏差和低方差的簡(jiǎn)單"不靈活"學(xué)習(xí)算法可以從少量數(shù)據(jù)中學(xué)習(xí)。高度復(fù)雜的功能只能從大量的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)，并使用具有低偏差和高差異的"靈活"學(xué)習(xí)算法。

· 輸入空間的維度。高維空間（100或1000）。空間的體積增加太多，數(shù)據(jù)變得稀疏。例如，計(jì)算優(yōu)化問題中的每個(gè)值組合。如果你想要一個(gè)奧術(shù)傾斜，這一點(diǎn)可以被稱為的。

· 輸出值中的噪聲。如果期望的輸出值通常不正確（由于人為錯(cuò)誤或傳感器錯(cuò)誤），則學(xué)習(xí)算法不應(yīng)嘗試找到與訓(xùn)練示例完全匹配的功能。通過早期停止和異常檢測(cè)可以減輕噪音（參見無監(jiān)督學(xué)習(xí)）。

· 數(shù)據(jù)的異質(zhì)性。輸入多樣性質(zhì)或內(nèi)容往往與同質(zhì)性（相似性）相反。

· 數(shù)據(jù)中的冗余。更多地重視已經(jīng)重復(fù)多次的信息。這可能意味著單個(gè)數(shù)據(jù)庫中的兩個(gè)不同字段，或多個(gè)軟件環(huán)境或平臺(tái)中的兩個(gè)不同字段。積極的數(shù)據(jù)冗余類型可以保護(hù)數(shù)據(jù)并提高一致性

· 存在相互作用和非線性。線性函數(shù)和距離函數(shù)與決策樹或神經(jīng)網(wǎng)絡(luò)的問題。如果每個(gè)特征對(duì)輸出做出獨(dú)立貢獻(xiàn)，則如果特征之間存在復(fù)雜的相互作用，則第一個(gè)特征可以是（線性/距離），那么第二個(gè)（決策/神經(jīng)）可以是解決方案。

此外，還存在過擬合或欠擬合的普遍存在的對(duì)立問題。

綠線表示過擬合的模型，黑線表示正則化模型。雖然綠線最好遵循訓(xùn)練數(shù)據(jù)，但它太依賴于該數(shù)據(jù)，并且與黑線相比，新的看不見的數(shù)據(jù)可能具有更高的錯(cuò)誤率。

統(tǒng)計(jì)中的過擬合是"產(chǎn)生與特定數(shù)據(jù)集過于緊密或完全對(duì)應(yīng)的分析，因此可能無法擬合其他數(shù)據(jù)或可靠地預(yù)測(cè)未來的觀測(cè)結(jié)果"。

當(dāng)統(tǒng)計(jì)模型不能充分捕獲數(shù)據(jù)的基礎(chǔ)結(jié)構(gòu)時(shí)，就會(huì)發(fā)生欠擬合。一個(gè)欠擬合模型就是將出現(xiàn)在正確指定的模型某些參數(shù)或術(shù)語缺少的典范。

什么是合適的？我們可以在這個(gè)問題上形成一個(gè)更有爭(zhēng)議的哲學(xué)觀點(diǎn)。社會(huì)科學(xué)家，政治家和工程師可能會(huì)非常不同意這一點(diǎn)。最后是模型性能。表現(xiàn)是一個(gè)人，機(jī)器等完成一項(xiàng)工作或活動(dòng)的程度。在制作算法時(shí)肯定有不同的目標(biāo)。

為了談?wù)撉窋M合與過擬合，我們需要從基礎(chǔ)開始：什么是模型？模型只是將輸入映射到輸出的系統(tǒng)。

沒有算法可以解決所有問題。在這種背景下提到熱鬧而嚴(yán)肅的沒有免費(fèi)午餐定理總是很有趣。 在優(yōu)化和計(jì)算復(fù)雜性中，這是一個(gè)結(jié)果，表明對(duì)于某些類型的數(shù)學(xué)問題，找到解決方案的計(jì)算成本（計(jì)算模型使用的資源），對(duì)于類中的所有問題的平均值，對(duì)于任何解決方法方法都是相同的。從這個(gè)意義上說，沒有捷徑。

然而Wolpert和Macready已經(jīng)證明了共同進(jìn)化優(yōu)化中的免費(fèi)午餐。這將優(yōu)雅地帶到下一部分。

強(qiáng)化學(xué)習(xí)

強(qiáng)化學(xué)習(xí)是三種基本的機(jī)器學(xué)習(xí)范例之一，同時(shí)還有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。

它與監(jiān)督學(xué)習(xí)的不同之處在于不需要呈現(xiàn)標(biāo)記的輸入/輸出對(duì)，并且不需要明確地校正次優(yōu)動(dòng)作。相反，重點(diǎn)是在探索（未知領(lǐng)域）和利用（當(dāng)前知識(shí)）之間找到平衡點(diǎn)。

強(qiáng)化學(xué)習(xí)（RL）是機(jī)器學(xué)習(xí)的一個(gè)領(lǐng)域，涉及軟件代理應(yīng)該如何在一個(gè)環(huán)境中采取行動(dòng)，以最大化一些累積獎(jiǎng)勵(lì)的概念。

軟件代理：一種計(jì)算機(jī)程序，代表用戶或代理關(guān)系中的其他程序。

代理人觀察環(huán)境，采取行動(dòng)與環(huán)境互動(dòng)，并獲得積極或消極的回報(bào)。

然而，該模型也可以這種方式表示：

強(qiáng)化學(xué)習(xí)（RL）場(chǎng)景的典型框架：代理在環(huán)境中執(zhí)行操作，該環(huán)境被解釋為狀態(tài)的獎(jiǎng)勵(lì)和表示，其被反饋到代理中。

馬爾可夫決策過程（MDP）往往是如何基本的強(qiáng)化學(xué)習(xí)，往往被另一位作家為邁向數(shù)據(jù)科學(xué) 在他的文章中介紹了這種模式：

該馬爾科夫特性指出，"未來是獨(dú)立給出了現(xiàn)在。過去的"一旦在已知的當(dāng)前狀態(tài)，信息迄今為止所遇到的歷史可能被丟棄，而這種狀態(tài)是足夠的統(tǒng)計(jì)數(shù)字，讓我們同對(duì)未來的描述就像我們擁有所有的歷史一樣馬爾可夫獎(jiǎng)勵(lì)過程或MRP是一個(gè)帶有價(jià)值判斷的馬爾可夫過程，說明通過我們對(duì)馬爾可夫決策過程進(jìn)行抽樣的特定序列積累了多少獎(jiǎng)勵(lì)。 MDP是具有決策的馬爾可夫獎(jiǎng)勵(lì)過程，它是所有狀態(tài)都是馬爾可夫的環(huán)境。

一個(gè)有趣的例子在學(xué)生馬爾可夫決策過程（MDP）中說明了這一點(diǎn)。學(xué)習(xí)，睡覺，酒吧，臉書，退出 - 不容易回答？這顯然是英國(guó)的MDP。

學(xué)生MDP中的狀態(tài)價(jià)值函數(shù)。

通過反復(fù)試驗(yàn)，有一項(xiàng)嘗試任務(wù)，目標(biāo)是最大化長(zhǎng)期獎(jiǎng)勵(lì)，并且代理人在沒有培訓(xùn)數(shù)據(jù)的情況下從經(jīng)驗(yàn)中學(xué)習(xí)。

如前所述的環(huán)境通常被表述為MDP。用于該上下文的許多強(qiáng)化學(xué)習(xí)算法利用動(dòng)態(tài)編程技術(shù)。

動(dòng)態(tài)編程是指通過以遞歸方式將其分解為更簡(jiǎn)單的子問題來簡(jiǎn)化復(fù)雜問題。如果子問題可以在較大的問題中遞歸嵌套，那么動(dòng)態(tài)編程方法是適用的，則較大問題的值與子問題的值之間存在關(guān)系。

當(dāng)事物根據(jù)其自身或類型定義時(shí)，就會(huì)發(fā)生遞歸。遞歸有時(shí)在計(jì)算機(jī)科學(xué)，程序設(shè)計(jì)，哲學(xué)或數(shù)學(xué)教科書中幽默地使用，通常通過給出循環(huán)定義或自我引用，其中假定的遞歸步驟不接近基本情況，而是導(dǎo)致無限回歸。這些書在其詞匯表中包含一個(gè)笑話條目并不罕見：遞歸，請(qǐng)參閱遞歸。

強(qiáng)化學(xué)習(xí)是由于其在許多其他學(xué)科中的普遍性，包括：博弈論，控制理論，運(yùn)籌學(xué)，信息論，基于模擬的優(yōu)化，多智能體系統(tǒng)，群智能，統(tǒng)計(jì)和遺傳算法。

這些不同的機(jī)器學(xué)習(xí)任務(wù)：無監(jiān)督學(xué)習(xí)，監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)是不同的但是互補(bǔ)的。如果你想了解更多關(guān)于每一個(gè)我推薦閱讀在他的系列機(jī)器學(xué)習(xí)中的文章。

還描述了半監(jiān)督學(xué)習(xí)，并且是監(jiān)督和非監(jiān)督技術(shù)的混合。

半監(jiān)督學(xué)習(xí)是一類機(jī)器學(xué)習(xí)任務(wù)和技術(shù)，它們也利用未標(biāo)記的數(shù)據(jù)進(jìn)行訓(xùn)練 - 通常是少量帶有大量未標(biāo)記數(shù)據(jù)的標(biāo)記數(shù)據(jù)。半監(jiān)督學(xué)習(xí)介于無監(jiān)督學(xué)習(xí)（沒有任何標(biāo)記的訓(xùn)練數(shù)據(jù)）和監(jiān)督學(xué)習(xí)（具有完全標(biāo)記的訓(xùn)練數(shù)據(jù)）之間。

半結(jié)構(gòu)化數(shù)據(jù)是一種結(jié)構(gòu)化數(shù)據(jù)形式，不遵循與關(guān)系數(shù)據(jù)庫或其他形式的數(shù)據(jù)表相關(guān)聯(lián)的數(shù)據(jù)模型的正式結(jié)構(gòu)，但仍包含標(biāo)簽或其他標(biāo)記來分隔語義元素并強(qiáng)制執(zhí)行記錄和字段的層次結(jié)構(gòu)數(shù)據(jù)。

當(dāng)您沒有足夠的標(biāo)記數(shù)據(jù)來生成準(zhǔn)確的模型而您沒有能力或資源來獲得更多時(shí)，您可以使用半監(jiān)督技術(shù)來增加訓(xùn)練數(shù)據(jù)的大小。

因此，半監(jiān)督學(xué)習(xí)對(duì)于網(wǎng)頁分類，語音識(shí)別甚至遺傳測(cè)序等用例來說都是雙贏的。在所有這些情況下，數(shù)據(jù)科學(xué)家都可以訪問大量未標(biāo)記的數(shù)據(jù)，但實(shí)際將監(jiān)督信息分配給所有這些數(shù)據(jù)的過程將是一項(xiàng)不可逾越的任務(wù)。

半監(jiān)督分類：標(biāo)記數(shù)據(jù)用于幫助識(shí)別數(shù)據(jù)中存在特定的網(wǎng)頁類型組以及它們可能是什么。然后，對(duì)未標(biāo)記數(shù)據(jù)訓(xùn)練該算法以定義那些網(wǎng)頁類型的邊界，甚至可以識(shí)別在現(xiàn)有人類輸入標(biāo)簽中未指定的新類型的網(wǎng)頁。

無監(jiān)督數(shù)據(jù)增強(qiáng)（UDA）中提出的方法采用了高度針對(duì)性的數(shù)據(jù)增強(qiáng)，以產(chǎn)生多樣化和真實(shí)的擾動(dòng)，并使模型在這些擾動(dòng)方面保持平滑。

· 使用生成的類似文本或增強(qiáng)圖像的示例。使用其他相關(guān)示例擴(kuò)充圖片。

· 他們還提出了一種名為TSA的技術(shù)，當(dāng)有更多未標(biāo)記的數(shù)據(jù)可用時(shí)，它可以有效地防止UDA過度擬合監(jiān)督數(shù)據(jù)。

· 對(duì)于文本，UDA與表示學(xué)習(xí)（例如BERT ）很好地結(jié)合，并且在低數(shù)據(jù)機(jī)制中非常有效，其中僅在20個(gè)示例的IMDb上實(shí)現(xiàn)了最先進(jìn)的性能。對(duì)于愿景，UDA在嚴(yán)重基準(zhǔn)的半監(jiān)督學(xué)習(xí)設(shè)置中將錯(cuò)誤率降低了30％以上。

· 最后，UDA可以有效地利用域外未標(biāo)記數(shù)據(jù)，并在存在大量監(jiān)督數(shù)據(jù)的ImageNet上實(shí)現(xiàn)改進(jìn)的性能。在博客文章中他們說：

我們的結(jié)果支持最近半監(jiān)督學(xué)習(xí)的復(fù)興，表明：（1）SSL可以匹配甚至優(yōu)于使用數(shù)量級(jí)更多標(biāo)記數(shù)據(jù)的純監(jiān)督學(xué)習(xí)。（2）SSL在文本和視覺兩個(gè)領(lǐng)域都能很好地工作。 （3）SSL與傳輸學(xué)習(xí)很好地結(jié)合，例如，當(dāng)從BERT微調(diào)時(shí)。

展示了兩張圖片來說明模型：

無監(jiān)督數(shù)據(jù)增強(qiáng)（UDA）概述。左：標(biāo)記數(shù)據(jù)可用時(shí)計(jì)算標(biāo)準(zhǔn)監(jiān)督損失。右：使用未標(biāo)記的數(shù)據(jù)，會(huì)在示例與其擴(kuò)充版本之間計(jì)算一致性損失

基于文本（頂部）或基于圖像（底部）訓(xùn)練數(shù)據(jù)的示例增強(qiáng)操作。