生成AI理論編

1）講習会概要

生成AI入門で扱ったモデルが実際にはどのように学習しているのか、生成AIに限らず深層学習に興味がある学生が学ぶべき重要な深層学習手法の論文について理解を深めることを目的とする．各回論文を1本ずつ取り上げ，深く掘り下げた説明，及び場合によってはデモやアプリケーションを用いて解説を行う．それぞれのテーマは画像生成・自然言語処理・マルチモーダル言語処理である．なお，本講習会は『生成AI入門』を受講済みまたは同等の知識を有する学生を前提とする．

2）各回の実施内容

第１回　画像生成　12/13

画像生成に関して、古典的手法であるGANおよび最新手法であるStable Diffusoinに関して数式ベースで学習の過程を紹介する。

 第２回　自然言語処理・マルチモーダル言語処理　12/20

自然言語処理分野でブレイクスルーとなったTransformer[Vaswani+ NeurIPS17]について紹介を行う．具体的にはAttentionについての説明，モデル構造の説明及び数式の説明，そしてBERTを含む現時点までにおけるTransformerの応用の紹介(+デモ)を行う予定である．