出版社内容情報
ChatGPTに代表される大規模言語モデルが自然言語処理の幅広いタスクで高い性能を獲得し、大きな話題となっています。大規模言語モデルは、大規模なテキストデータで訓練された大規模なパラメータで構成されるニューラルネットワークです。2020年以降、自然言語処理や機械学習の知見をもとに、パラメータ数とテキストデータの拡大により、性能が飛躍的に向上しました。
Hugging Face社の"transformers"というPythonライブラリを利用することで、プログラミングの経験があれば、モデルの操作やデータからの学習がかんたんにできます。モデルを訓練するための日本語もしくは日本語を含む多言語のデータセットも充実してきており、すぐに業務に使える実用的なモデルを作ることが可能な時代がやってきました。
本書は、大規模言語モデルの理論と実装の両方を解説した入門書です。大規模言語モデルの技術や自然言語処理の課題について理解し、実際の問題に対処できるようになることを目指しています。以下のような構成によって、理論とプログラミングの双方の側面から、大規模言語モデルに関する情報を提供します。
第1章 はじめに
第2章 Transformer
第3章 大規模言語モデルの基礎
第4章 大規模言語モデルの進展
第5章 大規模言語モデルのファインチューニング
第6章 固有表現認識
第7章 要約生成
第8章 文埋め込み
第9章 質問応答システム
内容説明
コンピュータが言語を理解するしくみ。
目次
第１章 はじめに
第２章 Ｔｒａｎｓｆｏｒｍｅｒ
第３章 大規模言語モデルの基礎
第４章 大規模言語モデルの進展
第５章 大規模言語モデルのファインチューニング
第６章 固有表現認識
第７章 要約生成
第８章 文埋め込み
第９章 質問応答
著者等紹介
山田育矢［ヤマダイクヤ］
株式会社Ｓｔｕｄｉｏ Ｏｕｓｉａ代表取締役チーフサイエンティスト・理化学研究所革新知能統合研究センター客員研究員。２００７年にＳｔｕｄｉｏ Ｏｕｓｉａを創業し、自然言語処理の技術開発に従事。２０１６年３月に慶應義塾大学大学院政策・メディア研究科博士後期課程を修了し、博士（学術）を取得。大規模言語モデルＬＵＫＥの開発者
鈴木正敏［スズキマサトシ］
株式会社Ｓｔｕｄｉｏ Ｏｕｓｉａソフトウェアエンジニア・東北大学データ駆動科学・ＡＩ教育研究センター学術研究員。２０２１年３月に東北大学大学院情報科学研究科博士後期課程を修了し、博士（情報科学）を取得。博士課程では質問応答の研究に従事。日本語質問応答のコンペティション「ＡＩ王」の実行委員。東北大学が公開している日本語ＢＥＲＴの開発者
山田康輔［ヤマダコウスケ］
株式会社Ｓｔｕｄｉｏ Ｏｕｓｉａリサーチエンジニア・名古屋大学大学院情報学研究科博士後期課程３年。２０２１年３月名古屋大学大学院情報学研究科博士前期課程修了。２０２２年４月より日本学術振興会特別研究員（ＤＣ２）。自然言語処理、特にフレーム意味論に関する研究に従事
李凌寒［リリョウカン］
ＬＩＮＥ株式会社（２０２３年１０月よりＬＩＮＥヤフー株式会社）自然言語処理エンジニア。２０２３年３月に東京大学大学院情報理工学系研究科博士後期課程を修了し、博士（情報理工学）を取得。博士課程では言語モデルの解析や多言語応用の研究に従事。大規模言語モデルｍＬＵＫＥの開発者（本データはこの書籍が刊行された当時に掲載されていたものです）
※書籍に掲載されている著者及び編者、訳者、監修者、イラストレーターなどの紹介情報です。
感想・レビュー
※以下の感想・レビューは、株式会社ブックウォーカーの提供する「読書メーター」によるものです。
mim42
mft
Q
長留裕平
ONE_shoT_
