SignalPlus：生成式AI簡介
前言
“What I cannot create, I do not understand.”
-Richard Feynman
前言
前言
一級標題
前言
毋庸置疑，人類最獨特的能力就是創造，但在科技日新月異發展的今天，我們通過創建機器來創造！機器可以給定風格繪製原創藝術品(draw)，可以編寫一長篇連貫文章(write)，可以創作悅耳的音樂(compose)，還可以為複雜遊戲制定獲勝策略(play)。這個科技就是生成式人工智能 (Generative Artificial Intelligence,一級標題
生成式人工智能
一級標題生成模型1.生成和判別模型
GenAI 是一個buzzword，其背後本質是
生成模型(generative model)，它是機器學習的一個分支，目標是訓練模型以生成與給定數據集相似的新數據。假設我們有一個馬的數據集。首先，我們可以在此數據集上訓練生成模型，以捕獲控制馬圖像中像素之間複雜關係的規則。然後，從此模型中進行採樣，以創建原始數據集中不存在的但是逼真的馬圖像，過程如下圖所示。
為了真正理解生成模型的目標和重要性，將其與
判別模型
(discriminative model) 進行比較是必要的。其實機器學習里大多數的問題都是由判別模型解決的，看以下例子。
假設我們有一個繪畫數據集，一些是梵高畫的，一些是其他藝術家畫的。有了足夠的數據，我們就可以訓練一個判別模型來預測一幅給定的畫是否由梵高所作，過程如下圖所示。 P(y|x) 當使用判別模型時，訓練集中每個示例都有一個標籤(label)，對於以上二分類問題，通常梵高的畫的標籤為1 ，非梵高的畫的標籤為0 。上圖中模型最後預測的概率是0.83 ，那麼它很有可能是由梵高所作。和判別模型不同的是，生成模型不需要示例裡含有標籤，因為它的目標是生成新數據，而不是給數據預測標籤。x 例子看完，讓我們用數學符號來精准定義生成模型和判別模型： y 判別模型對
建模，給定特徵 P(x) 來估計標籤 x的概率，從這個概率分佈中採樣即可生成新的特徵。
一級標題
2.生成模型的框架
一級標題 P一級標題x = (x 1,2.生成模型的框架P了解生成模型框架之前，讓我們先玩一個遊戲。假設下圖的點是由某種規則產生，我們稱該規則為
data，現在讓你生成一個不同的Px 2) 使得這個點看起來是由相同的規則Pdata 產生的。P你會如何生成這個點？你可能利用已給的點在腦海裡產生一個模型Pmodel，而這個模型占的位置上都可能生成你想要的點。由此可知，模型
model 就是Pdata 的估計。那麼一個最簡單的模型
model 如下圖的橙色方框，點只可能生成於方框內，而不可能生成於方框外。
要生成新的點，我們可以從方框內隨機選一個點，更嚴謹地說，從模型Pmodel 分佈中採樣(sampling)。這就是一個極簡的生成模型。你從訓練數據(黑點) 中創建一個模型(橙框)，然後你可以從模型中採樣，希望生成出來的點和訓練集中的點看起來相似。P現在我們可以正式提出生成學習的框架了。
現在讓我們揭示真實的數據生成分佈Pdata，並了解如何應用以上框架於此示例。從下圖中我們可以看到，數據生成規則Pdata 是點只是在陸地上均勻分佈，而不會出現在海洋中。P很明顯，我們的模型Pdata。
model 是規則 Pdata 的一個簡化。通過檢查上圖的A、B 和C 點可以幫助我們理解模型Pmodel 是否成功模仿了規則
點A 不符合規則Pdata，因為它出現在海裡，但可能由模型Pmodel 生成，因為它出現在橙框之內。
點B 不可能由模型P點C 由模型Pdata。
一級標題
model 生成，而又符合規則
一級標題
一級標題3.第一個生成模型 (accessies type)、假設你是一家公司的首席時尚官Chief Fashion Officer (CFO)，你的職責是創造新的時髦的衣服。今年你收到50 個關於時尚搭配的數據集(如下圖)，而你需要創造10 個新的時尚搭配。 (clothing color)、雖然你是首席時尚官，但是你也是一個數據科學家，因此你決定用生成模型來解決此問題。看完上面50 張圖片，你決定用五個特徵， (clothing type)、配件類型服裝顏色服裝類型頭髮顏色
(hair color) 和
頭髮類型
(hair type)，來描述時尚搭配。
Blank, Round, Sunglasses
前10 個圖像數據特徵如下。
Black, Blue 01, Gray 01, PastelGreen, PastelOrange, Pink, Red, White
每個特徵也有不同數目的特徵值：
Hoodie, Overall, ShirtScoopNeck, ShirtVNeck
3 種配件類型(accessies type)：
Black, Blonde, Brown, PastelPink, Red, SilverGray
8 種服裝顏色(clothing color)：
NoHair, LongHairBun, LongHairCurly, LongHairStraight, ShortHairShortWaved, ShortHairShortFlat, ShortHairFrizzle
4 種服裝類型(clothing type)：P6 種頭髮顏色(hair color) ：P7 種頭髮類型(hair type)：Pdata，我們只能通過這50 個數據來建一個P二級標題
model ，使其能夠和
3.1 極簡模型（θ 1 ，θ 2 ，…，θ 4031 ）其中
其中 N其中nj是第j其中
是觀測數據的個數即50 ，
是第
個特徵組合在50 個數據中出現的個數。θ比如(LongHairStraight, Red, Round, ShirtScoopNeck, White) 的特徵組合(稱為組合1) 出現了兩次，那麼θ比如(LongHairStraight, Red, Round, ShirtScoopNeck, Blue 01) 的特徵組合(稱為組合2) 沒有出現，那麼θ按照上面的規則，我們將4031 個組合都計算出一個
值，不難看出有很多
值都是0 ，更糟的是我們不可能生成新的沒見過的圖片(
梵高原作的複制畫(不在原始數據集)
二級標題
隨機像素拼湊的畫(不在原始數據集)
二級標題xj二級標題 xk 3.2 次簡模型
p(xj | xk) = p(xk)
樸素貝葉斯模型(Naive Bayes) 可以將上面特徵組合的次數大大減少，根據其模型假設每個特徵之間都是相互獨立的。回到上面的數據，一個人的頭髮顏色(特徵
) 和其衣服顏色(特徵
有了這個假設，我們可以計算出nkl 是第 k樸素貝葉斯模型將原始問題“對每個特徵組合做概率估計”簡化成對“每個特徵做概率估計”，原來我們需要用4031 ( 3 * 8 * 4 * 6 * 7) 個參數，現在只需要23 ( 3 + 8 + 4 + 6 + 7) 個參數，每個參數的表達式為：l 其中N 是觀測數據的個數即50 ，
是第
個特徵取其下第
一級標題
一級標題
二級標題
一級標題
二級標題
二級標題
4.1 高維數據
作為首席時尚官，你成功用樸素貝葉斯生成了10 套全新的時尚搭配，你信心爆棚了，覺得自己的模型無敵，直到遇到下面這套數據集。
該數據集不再是用五個特徵來表示了，而是由32* 32 = 1024 個像素來表示，每個像素值可以去0 到255 中的一個， 0 表示白， 255 表示黑。下表列出前10 張圖像像素1 到5 的值。
用同樣的模型生成10 套全新的時尚搭配，下面是模型生成的結果，每張醜得都很類似，而且無法區分不同的特徵，為什麼會這樣呢？
首先，由於樸素貝葉斯模型是獨立採樣像素，但是相鄰像素之間其實非常相似。對於衣服，其實像素應該大致相同，但是模型隨機採樣，因此得到上圖中的衣服都是五顏六色的。其次，高維樣本空間中的可能性太多，其中只有一小部分是可識別的。如果樸素貝葉斯模型直接處理這種高度相關的像素值，那麼它找到令人滿意的值組合的機會非常小。
綜上所述，對於低維度而且特徵低相關的樣本空間，樸素貝葉斯效果通過獨立採樣的產生的效果很好；但對於高維度而且特徵高相關的樣本空間，通過獨立採樣像素來找到有效人臉幾乎是不可能的。
這個例子強調了生成模型要想成功必須克服的兩個難點：生成模型要想在高維度而且特徵高相關的樣本空間中成功，必須要利用深度學習模型。我們需要一個可以從數據中推斷出相關結構的模型，而不是被告知要提前做出哪些假設。深度學習可以在低維空間中形成自己的特徵，而這就是二級標題
表徵學習
二級標題
二級標題
4.2 表徵學習表徵學習就是學習高維數據的表示的含義。假設你去見一個從未見過面的網友，到達相約地點人很多根本找不到她，你打電話給她描述你的樣子。相信你不會說你圖像中像素1 的顏色是黑，像素2 的顏色是淡黑，像素3 的顏色是灰等等。相反你會認為網友會對普通人的外貌有一個大概的了解，然後給予這個了解再描述像素組的特徵，比如，你有一頭烏黑亮麗的短髮，戴著一雙金光閃閃的眼鏡等等。通常不超過10 個這樣的描述，網友就可以從腦海中生成你的圖像，該圖像可能很粗糙，但不妨礙網友從幾百個人中找到你，即便她從來沒有見過你。這個就是表徵學習背後的核心思想，不嘗試直接對高維樣本空間(high-dimensional sample space) 進行建模，而是使用一些低維潛在空間
(low-dimensional latent space) 來描述訓練集中的每個觀察結果，然後學習一個
映射函數f(mapping function)，該函數可以獲取潛在空間中的一個點並將其映射到原始樣本空間。換句話說，潛在空間中的每個點都表示著高維數據的特徵。
將其轉換成圖像。f 一級標題
認識到原始數據集可以用更簡單的潛在空間來表示這件事情對於機器來說並不容易，首先機器需要確定高度和寬度是最能描述該數據集的兩個潛在空間維度，然後學習映射函數
一級標題
一級標題5. 生成模型的分類(explicitly modeling)，
所有類型的生成模型最終都旨在解決相同任務，但它們對密度函數的建模方法都略有不同， 一般來說有以下兩類：對密度函數(normalizing FLOW model)
顯式建模但以某種方式約束模型，以便計算密度函數，比如 (variational autoencoder,標準化流模型但是對密度函數做逼近，比如 (diffusion model)
變分自動編碼器VAE) 和(implicitly modeling)，通過直接生成數據的隨機過程。比如總結 (generative adversarial network, GAN)
總結
總結一級標題(foundation model,總結
