NLP

NLP

LLMの教科書「大規模言語モデル入門」を読んで私が得た学び

今回の記事では、LLMにおける教科書的1冊「大規模言語モデル入門」を読んでみて、私が得た学びについてまとめていきたいと思います。 本書は、「LLMを今まで触ったことがないけど、LLMの実装やLLMで何ができるのか知りたい」「Transformerモデルについて理解を深めたい」という方必読の1冊となっております。 本書評を見て、「大規模言語モデル入門」からどのような学びが得られるのかについて解像度を上げていただけると幸いです!
NLP

PII-Detectionコンペにおけるビタビアルゴリズムの実装を図解してみた

今回の記事では、KaggleのThe Learning Agency Lab - PII Data Detectionコンペにおいて、ビタビアルゴリズムを実装してみた時のロジックを、図解しながら解説していきたいと思います。 大規模言語モデル入門の第6章の内容を参考にしながら実装しましたが、ところどころ理解が及ばない部分があり、コンペに一緒に参加した仲間に説明できなかったことが動機となって、今回このような解説記事を書いた次第です。 できる限り分かりやすく解説していきますが、分かりずらい箇所があった場合にはコメント等をいただければ追加説明等を付与いたしますので、お気軽にコメントいただけると幸いです。
NLP

openai.error import OpenAIErrorを実行したらModuleNotFoundErrorが出てしまった時の対処法

この記事では、openai.error import OpenAIErrorを実行した時にModuleNotFoundErrorが出てしまった時の対処法をご紹介いたします! 大規模言語モデル入門を読み進めている方は、普通に進めてしまうと引っかかってしまうエラーなので、ぜひ本記事を参考にエラーを解消していただけると幸いです!
NLP

openai.ChatCompletion.create()を実行して、APIRemovedInV1エラーが発生した時の対処法

今回の記事では、openai.ChatCompletion.create()を実行して、APIRemovedInV1エラーが発生した時の対処法について解説していきたいと思います。 私は「大規模言語モデル入門」のコードを実行している際にこのエラーが発生してしまったので、同じようなエラーに直面してしまった方に届くと幸いです!
NLP

無料で学べる!Practical Deep Learning for Codersの第1章を受講して変わったこと・これから実行したいこと

今回の記事では、Practical Deep Learning for Codersという英語で学べるDeep Learning講座の第1章の感想を共有しながら、受講前と受講後で考え方が変わった点や、この講座のどのような点がおすすめかについてまとめていきたいと思います! この講座は全文英語で展開されるものの、そのハードルさえ乗り越えてしまえば、図表やコードを使用して、数学が苦手な人でもディープラーニングについて理解できるようになるハイパー優れた無料講座なので、本記事を読んで興味を持った方はぜひ講義を受けてみることをおすすめいたします!
NLP

大規模言語モデル入門でJGLUEのMARC-jaを使おうと思ったら、「RuntimeError: The Amazon Review Dataset is currently no longer public.」と出てしまったあなたへ

回の記事では、大規模言語モデル入門の第5章 大規模言語モデルのファインチューニングにて、HuggingFaceのDatasetsからJGLUEのMARC-jaデータセットをダウンロードしようとしたら、 RuntimeError: The Amazon Review Dataset is currently no longer public. と出てしまった時の対処法を紹介します!
NLP

CLIPテキストエンコーダーのtext_model._build_causal_attention_mask()を実行すると、AttributeError: ‘CLIPTextTransformer’ object has no attribute ‘_build_causal_attention_mask’が出る時の対処法

この記事では、CLIPテキストエンコーダーのtext_model._build_causal_attention_maskを実行しようとすると、AttributeErrorが出る場合の対処法についてご紹介したいと思います! Stable Diffusionに対してCLIPテキストエンコーダーを使用している人で同じようなエラーにぶち当たっている人に本記事の解決策が届くと幸いです!