| 年度 |
2025年度 |
開講部局 |
先進理工系科学研究科博士課程前期先進理工系科学専攻情報科学プログラム |
| 講義コード |
WSN21801 |
科目区分 |
専門的教育科目 |
| 授業科目名 |
自然言語処理特論 |
授業科目名
（フリガナ） |
シゼンゲンゴショリトクロン |
| 英文授業科目名 |
Advanced Natural Language Processing |
| 担当教員名 |
江口 浩二 |
担当教員名
(フリガナ) |
エグチ コウジ |
| 開講キャンパス |
東広島 |
開設期 |
1年次生 後期 ３ターム |
| 曜日・時限・講義室 |
(3T) 木1-4 |
| 授業の方法 |
講義 |
授業の方法
【詳細情報】 |
オンライン（同時双方向型） |
| 講義中心、演習中心、ディスカッション、学生の発表 |
| 単位 |
2.0 |
週時間 |
4 |
使用言語 |
B
:
日本語・英語 |
| 学習の段階 |
6
:
大学院専門的レベル
|
| 学問分野（分野） |
25
:
理工学 |
| 学問分野（分科） |
02
:
情報科学 |
| 対象学生 |
|
| 授業のキーワード |
自然言語処理，機械学習，深層学習，埋め込み表現学習 |
| 教職専門科目 |
|
教科専門科目 |
|
プログラムの中での
この授業科目の位置づけ
（学部生対象科目のみ） | |
|---|
到達度評価
の評価項目
（学部生対象科目のみ） | |
|---|
| 授業の目標・概要等 |
自然言語は人間の知的活動の根幹をなすものであり，自然言語をコンピュータで扱う技術である自然言語処理は人工知能の中心的課題の一つである．近年は機械学習，とりわけ深層学習を用いた自然言語処理の発展が著しい．本講義では，書き言葉である自然言語テキストから有用な知識を引き出すための基礎的な技術を修得し，さらにその様々な応用を概観することを通して，自然言語処理および機械学習に関する理解を深める． |
| 授業計画 |
第1回 ガイダンス(Guidance)
第2回 自然言語処理と機械学習の概要(Introduction to machine learning for natural language processing)
第3回 ニューラルネットワークとニューラル言語モデル(Neural networks and neural language models) (1)
第4回 ニューラルネットワークとニューラル言語モデル(Neural networks and neural language models) (2)
第5回 再帰型ニューラルネットワークとLSTM(RNNs and LSTMs) (1)
第6回 再帰型ニューラルネットワークとLSTM(RNNs and LSTMs) (2)
第7回 トランスフォーマと事前学習言語モデル(Transformers and pretrained language models)
第8回 ファインチューニングとマスク型言語モデル(Fine-tuning and masked language models)
第9回 単語埋め込み(Word embeddings)
第10回 グラフ埋め込み(Graph embeddings)
第11回 意味の埋め込み(Sense embeddings)
第12回 文脈埋め込み(Contextualized embeddings) (1)
第13回 文脈埋め込み(Contextualized embeddings) (2)
第14回 文や文書の埋め込み(Sentence and document embeddings)
第15回 まとめと議論(Conclusions and discussions)
各自の担当範囲について発表し，議論を行う． |
| 教科書・参考書等 |
教科書：
Dan Jurafsky and James H. Martin, "Speech and Language Processing", 2025.
参考書：
Aston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smola: "Dive into Deep Learning", 2023.
Mohammad Taher Pilehvar and Jose Camacho-Collados: "Embeddings in Natural Language Processing", 2020. |
授業で使用する
メディア・機器等 |
配付資料, Microsoft Teams |
| 【詳細情報】 |
スライド，PC |
授業で取り入れる
学習手法 |
ディスカッション, プロジェクト学習 |
予習・復習への
アドバイス |
担当範囲の調査と発表をしっかり行うこと． |
履修上の注意
受講条件等 |
第1回の授業時間に担当範囲の割当を行うので，履修者は必ず出席すること． |
| 成績評価の基準等 |
授業での発表の内容と議論への参加状況により評価する． |
| 実務経験 |
|
実務経験の概要と
それに基づく授業内容 |
|
| メッセージ |
|
| その他 |
|
すべての授業科目において，授業改善アンケートを実施していますので，回答に協力してください。
回答に対しては教員からコメントを入力しており，今後の改善につなげていきます。 |