- vừa được xem lúc

Diffusion model, nhưng là vỡ lòng (P1)

0 0 13

Người đăng: Lộc Đinh

Theo Viblo Asia

Đổi gió tí nhỉ, nay thì mình sẽ nói về một mô hình khác của dòng họ Generative models (dòng họ sinh dữ liệu). Các tiền bối đi trước của dòng họ này có thể kể đến là Auto-Encoder, GAN và Flow-based model, đã làm rất tốt vai trò của mình rồi. Nhưng người xưa có câu "Hậu sinh khả uý", thế nên việc con cháu làm tốt hơn các cụ đó là điều đương nhiên rồi. Mô hình đó là Diffusion Model.

Cá nhân mình khi tìm hiểu về dòng dõi Diffusion model thì ban đầu cũng cảm thấy hơi khó hiểu, thế nên mình viết bài này như là một cách tiếp cận dễ thấm hơn cho những bạn nào giống mình. Nào, vô luôn đê.

1. Các tiền bối đã làm tốt, nhưng...

Như mình có đề cập ở phần trên, thì Auto-Encoder (AE), GAN và Flow-based model đều thuộc dòng họ Generative model. Generative model là những model có khả năng sinh dữ liệu nhờ vào việc ánh xạ dữ liệu lên một vùng không gian ẩn nào đó, rồi từ vùng không gian ẩn này thì sẽ sinh ra dữ liệu. Còn nhớ thời các mô hình này mới ra đời thì hai cái "dòng họ" này đã làm mưa làm gió, và đã có rất nhiều paper cũng như ứng dụng được thực hiện. Tuy nhiên thì các model này hiện nay cũng bộc lộ nhiều hạn chế:

  • Đối với AE: ý tưởng của AE khá hay khi tối ưu hoá hàm mất mát giữa dữ liệu được sinh ra với đầu vào bằng cách ánh xạ dữ liệu lên một miền không gian ẩn, rồi từ đó khôi phục lại dữ liệu. Tuy nhiên, mô hình lại phụ thuộc vào hàm surrogate loss (còn gọi là hinge loss function) Hàm surrogate loss có nhược điểm, đó là nó giống như một cái "hàng rào" phân tách giữa các class dữ liệu với nhau (đấy cũng chính là lí do hàm này thường được sử dụng trong thuật toán SVM) chứ không phải dự đoán liệu dữ liệu sinh ra có cùng phân phối với dữ liệu gốc không.
  • Đối với GAN: đây là một mô hình xịn tại thời điểm nó ra mắt. Tuy nhiên vì phải phụ thuộc vào tầng Discriminator trong việc "kiểm tra" dữ liệu (mà thực tế thì thường tầng này là 1 pre-trained model) nên GAN sẽ không có tính "sáng tạo" (không có tính phong phú) trong việc sinh dữ liệu mới. Thêm vào đó, nếu như mạng GAN có kiến trúc quá lớn thì khi huấn luyện sẽ dễ gặp hiện tượng vanishing gradients khiến cho việc sinh dữ liệu trở nên kém hiệu quả hơn. Với lại, thực ra GAN sử dụng một input nhiễu làm đầu vào, rồi từ input nhiễu đó sinh ra data, chứ không phải tìm ra một probability distribution của data đó.
  • Đối với Flow-based model: Đây là một model sử dụng phương pháp Normalizing Flows để sinh dữ liệu, bằng cách học Hàm mật độ xác suất (PDF) của input thông qua nhiều quá trình biến đổi. Tuy vậy thì đó cũng chính là điểm yếu của model này khi các layer của mô hình này phải có khả năng invertible (tạm dịch là nghịch đảo) thì mới sinh dữ liệu được (như trong hình dưới thì hàm được dùng ở tầng encoder phải có khả năng invertible thì mới áp dụng vô decoder được).

Từ đó, một hậu duệ đã ra đời...

2. Diffusion model vỡ lòng

Mình có một đứa em họ nhưng còn bé xíu, và dĩ nhiên thì lâu lâu mình phải làm nhiệm vụ trông trẻ rồi. Thỉnh thoảng mình có hay mua đồ chơi cho bé. Có một trò chơi mà mình thấy khá là giống với cách mà Diffusion vận hành, đó là cái tranh dán keo mà muốn tô màu cho nó thì phải rắc kim tuyến lên. Cũng chẳng biết phải gọi tên trò chơi đó là gì, tạm gọi là tranh kim tuyến đi. Cái hình ở dưới sẽ minh hoạ cho cái tranh đó.

Chắc đây là ví dụ dễ tưởng tượng nhất về Diffusion model 🤔

Về căn bản thì Diffusion model cũng sẽ hoạt động như cách mình tô tranh này vậy đó (dĩ nhiên là không giống 100% rồi, nhưng để minh hoạ cơ chế hoạt động thì cái ví dụ này mình thấy hợp lí nhất). Xong, rất dễ hiểu 🤣 Hết phần "dành cho em bé", nếu bác nào muốn tìm hiểu tiếp thì em xin viết tiếp nhé, còn không thì tới đây thôi được rồi =))

Có thể nói Diffusion model là sự kết hợp từ những ưu điểm của những người tiền nhiệm: Đây là một probabilistic models có nhiệm vụ tạo ra một distribution cho input tương tự như Flow-based model, có khả năng xấp xỉ phân phối của data được sinh ra với phân phối của dữ liệu gốc tương tự như VAE, và có một tầng được pre-determined tương tự như GAN. Tức là, các thế hệ tiền bối có gì thì nó có hết.

Diffusion model bao gồm 2 quá trình: Forward Diffusion Process (mình gọi tắt là FDP) ứng với tầng encoderReverse Diffusion Process (mình gọi tắt là RDP) ứng với tầng decoder. Nếu lấy ví dụ là cái tranh kim tuyến ở trên thì FDP là quá trình rắc kim tuyến lên tranh, còn RDP là quá trình "sàng" và phủi bụi kim tuyến đấy. Oke, đi vào từng phần thôi.

a. Forward Diffusion Process

Đầu tiên là quy trình "rắc kim tuyến lên tranh", aka FDP. Cũng có thể gọi quá trình này là encoder cũng được, nhưng là encoder của Diffusion model. Cho một điểm dữ liệu đầu vào x0x_0 thuộc một phân phối biết trước x0q(x)x_0 \sim q(x) . Quá trình FDP sẽ thêm từ từ theo thời gian (không phải đùng 1 phát đổ hết kim tuyến lên tranh đâu) một lượng nhỏ nhiễu ϵ\epsilon được sample từ phân phối Gauss (tức là ϵN(μ,σ2)\epsilon \sim \mathcal{N}(\mu,\,\sigma^{2})). Quy trình này có thể được mô tả là:

x1=1β1x+β1ϵ1x_1 = \sqrt{1 - \beta_1}x + \sqrt{\beta_1}\epsilon_1

xt=1βtxt1+βtϵtx_t = \sqrt{1 - \beta_t}x_{t-1} + \sqrt{\beta_t}\epsilon_t

Trong đó:

  • ϵt\epsilon_t là lượng nhiễu được thêm vào xtx_t tại bước thứ tTt \in T.
  • βt[0,1]\beta_t \in [0,1] là một hyperparrameter, có nhiệm vụ kiểm soát lượng nhiễu được thêm vào tại mỗi step tt (nói vui là tránh lỡ tay đổ hết kim tuyến lên tranh). Thanh niên này còn được gọi là lịch trình phương sai (variance schedule).

Khi mỗi điểm dữ liệu được làm nhiễu như vậy, thì khi đó, ta có thể biểu diễn phân phối của ảnh nhiễu tại hai step liên tiếp (t1,t)(t-1, t) dưới dạng:

q(xtxt1)=Nxt(1βtxt1,βtI)q(x_t|x_{t-1}) = \mathcal{N}_{x_t}(\sqrt{1 - \beta_t}x_{t-1}, \beta_tI)

Từ đó có thể viết gọn quy trình trên như sau:

q(x1:Tx0)=Πt=1Tq(xtxt1)q(x_{1:T}|x_0) = \Pi^T_{t=1}q(x_t|x_{t-1})

Có thể thấy vì được thêm vào một lượng nhiễu được sample từ phân phối Gauss nên đến thời điểm tt nào đó, distribution của ảnh nhiễu cũng sẽ tuân theo phân phối này với mean μ=1βtxt1\mu = \sqrt{1 - \beta_t}x_{t-1} và variance σ2=βtI\sigma^2 = \beta_tI.

Nhưng nếu giả sử T rất lớn thì sao nhỉ, tính mấy trăm lần thì tốn tài nguyên quá. Vậy nên ta sẽ dùng một hàm xấp xỉ để tính cho nhanh:

Giả sử ta muốn tính x2x_2 đi, thì ta làm như sau: (Viết giấy luôn chứ viết Latex mệt quá các bác ạ, nếu chữ xấu thì mong các bác bỏ qua ):

Thì làm sao mà từ phương trình (1) mà ra (2) được nhỉ? Nó là như này:

Từ đó, khi chúng ta merge 2 phân phối Gauss với 2 phương sai khác nhau: N(0,σ12I)\mathcal{N}(0, \sigma^2_1I)N(0,σ22I)\mathcal{N}(0, \sigma^2_2I) thì phân phối Gauss sẽ có dạng N(0,(σ12+σ22)I)\mathcal{N}(0, (\sigma^2_1 + \sigma^2_2)I). Áp dụng vô mô hình FDP thì chúng ta có độ lệch chuẩn là (1αt)+αt(1αt1)\sqrt{(1 - \alpha_t) + \alpha_t(1 - \alpha_{t - 1})} = 1αtαt1\sqrt{1 - \alpha_t \alpha_{t - 1}}

Vậy túm cái quần lại, FDP có thể được viết gọn lại như sau:

q(xtx0)=Nxt(αtx0,(1αt)I)q(x_t|x_0) = \mathcal{N}_{x_t} (\sqrt{\alpha_t}x_0, (1 - \alpha_t)I)

Tạm kết

Vì Diffusion model là một mô hình phức tạp nên mình sẽ chia nhỏ ra nhé để tránh bị "bội thực" Phần sau thì mình sẽ viết tiếp về quá trình Reverse Diffusion Process Vậy nhé.

Tài liệu tham khảo

Lilian Weng, What are Diffusion models?

Sergios Karagiannakos, Nikolas Adaloglou, How diffusion models work: the math from scratch

Bình luận

Bài viết tương tự

- vừa được xem lúc

Hành trình AI của một sinh viên tồi

Mình ngồi gõ những dòng này vào lúc 2h sáng (chính xác là 2h 2 phút), quả là một đêm khó ngủ. Có lẽ vì lúc chiều đã uống cốc nâu đá mà giờ mắt mình tỉnh như sáo, cũng có thể là vì những trăn trở về lý thuyết chồng chất ánh xạ mình đọc ban sáng khiến không tài nào chợp mắt được hoặc cũng có thể do mì

0 0 131

- vừa được xem lúc

[Deep Learning] Key Information Extraction from document using Graph Convolution Network - Bài toán trích rút thông tin từ hóa đơn với Graph Convolution Network

Các nội dung sẽ được đề cập trong bài blog lần này. . Tổng quan về GNN, GCN. Bài toán Key Information Extraction, trích rút thông tin trong văn bản từ ảnh.

0 0 198

- vừa được xem lúc

Tìm hiểu về YOLO trong bài toán real-time object detection

1.Yolo là gì. . Họ các mô hình RCNN ( Region-Based Convolutional Neural Networks) để giải quyết các bài toán về định vị và nhận diện vật thể.

0 0 269

- vừa được xem lúc

Encoding categorical features in Machine learning

Khi tiếp cận với một bài toán machine learning, khả năng cao là chúng ta sẽ phải đối mặt với dữ liệu dạng phân loại (categorical data). Khác với các dữ liệu dạng số, máy tính sẽ không thể hiểu và làm việc trực tiếp với categorical variable.

0 0 243

- vừa được xem lúc

TF Lite with Android Mobile

Như các bạn đã biết việc đưa ứng dụng đến với người sử dụng thực tế là một thành công lớn trong Machine Learning.Việc làm AI nó không chỉ dừng lại ở mức nghiên cứu, tìm ra giải pháp, chứng minh một giải pháp mới,... mà quan trọng là đưa được những nghiên cứu đó vào ứng dụng thực tế, được sử dụng để

0 0 54

- vừa được xem lúc

Xây dựng hệ thống Real-time Multi-person Tracking với YOLOv3 và DeepSORT

Trong bài này chúng ta sẽ xây dựng một hệ thống sử dụng YOLOv3 kết hợp với DeepSORT để tracking được các đối tượng trên camera, YOLO là một thuật toán deep learning ra đời vào tháng 5 năm 2016 và nó nhanh chóng trở nên phổ biến vì nó quá nhanh so với thuật toán deep learning trước đó, sử dụng YOLO t

0 0 302