CS7650 Natural Language - Summer 2026

2026夏はCS 7650: Natural Languageを履修した。BoWから、現在のLLMの基盤となるTransformerまで体系的に学ぶクラス。特筆すべきは、教授のMarkさんの講義がとても分かりやすく、自然言語処理初心者の自分でも簡単にキャッチアップできたことである。クラスは講義、講義ごとのミニクイズ、五回にわたる課題と中間・期末テストで構成されている。

唯一の難点は、クラスが二部構成になっていたこと。前半はMarkさんの講義なのだが、後半はMeta AIの研究者が講義を担当している。前半と比べると説明の分かりやすさや構成にばらつきがあり、個人的には少し残念だった。これは他の受講生も再三フォーラムで指摘しており、今後改善されることを期待したい。それでも、昨今のNLPの進化に合わせて新しい講義が追加されているほか、教授やTAのサポートも手厚かったと思う。

また、個人的に、このクラスに関しては課題よりもテストの方が難しかった。中間テストでは、講義を理解したつもりだったけれど、細かな概念の違いまで説明できる状態にはなっておらず散々な結果になってしまった。裏を返せば、それだけよく設計されたテストだったとも言えるし、もう少し時間をかけて勉強するべきだった。一方、期末は思っていたよりも解けた気もする。中間の反省を生かし、講義のトランスクリプトをLLMに読ませて試験対策ノートを作り、それを熟読したことが効果的だったのかもしれない。(AI時代!) 最終的には挽回して納得できる成績に着地してほしい。(これを書いている時点では最終的な成績はまだ分からない。)

Transformer全盛の現在、BoWやLSTMなどの古典的な手法を実務で直接使う機会は少ないかもしれない。それでも、NLPのパラダイムの変遷を体系的に学べたことは、個人的にとてもためになった。 これまでコンピューティングシステム関連のクラスばかり履修していたけど、もう少しAI関連のクラスも取っておけば良かったかなと思いつつ、次は、おそらくOMSCS最後の授業となるCS 6515を履修する予定だ。無事に修了し、卒業までたどり着きたい。