自然言語処理の本、やっと言語学的な章に突入。 専門分野なので面白い。 それにしても、言葉の近さや出現性を数式で表してるのは衝撃だった。意味はほとんどわからなかったけど、なんでも数式にできるのね。

自然言語処理論文誌の最新号（31巻2号）にて以下の共著論文2本が掲載されてます。ぜひご笑覧ください。 ・Cloze Quality Estimation for Language Assessment（jstage.jst.go.jp/article/jnlp/3…） ・NLP2024 テーマセッション「人間と計算機のことばの評価」（jstage.jst.go.jp/article/jnlp/3…）

小町守さんの「自然言語処理の教科書」をご恵贈頂きました。この度は単著のご出版おめでとうございます🎉 物理電子共に購入済ですがこれはサイン入り！嬉しい！(サインマウンティング さて、この本はLLMで言語処理に入門した後に読むのに相応しいまさに教科書。必ず買って！ amzn.to/4e9DPBI… pic.twitter.com/EixBKq8soe

自然言語処理の本とかならまあ分かるけど何の関連性があるねん

AIより賢くなるために、AIの仕組みを理解しよう！ GPT, Claud, Geminiなど、多くのLLMはTransformerという仕組みを基にしている。 GPTのT。 Googleの論文「Attention is All You Need」で示された仕組みだが、英語で難しいので、 「Transformerによる自然言語処理」という本もおすすめ。難易度は高め

「自然言語処理の教科書」、普通は研究者のエモい話は本に書かれず謝辞とかに感謝が書かれているだけなのに対して、エモい話が本文中に色々出てくるという点でも面白いかもしれない…どの分野のどの研究室でもあの程度のエモいドラマはあると思っていて、それが観測可能になってる点でも面白い

返信先:@shigashiyama028ありがとうございます〜。はい、おっしゃる通り自分の本単独で読むことはあまり想定していなくて、読む人の関心に応じて「IT Text 自然言語処理の基礎」または「自然言語処理（三訂版）」あるいは「自然言語処理の基本と技術」のいずれかと一緒に読むと良いかなと思っています。…

「自然言語処理の教科書」ざっと読んだ。（状況にもよるが）自然言語処理を学びたい人に2冊薦めるなら本書と「IT Text」の2冊にするかなと思った。「言語資源のつくり方」が書かれた本としても貴重。自分が修士や社会人間もない頃にこういった本に出会っていたら視野が広がっただろう。

ここらへんはAIの自然言語処理に関する本とか読むと、めちゃくちゃ考えさせられることでもある。自分たちが当たり前のようにしていることを、実は自分たちが一番わかっていない、みたいな感じね🙃

概念や記号や言語を扱う点で自然言語処理と共通する部分もあるけど、自然言語処理とかの「役に立つ道具を作る」みたいな動機とは全然違う、「作ることで知能を理解したい」話 10年前の本なので技術はちょっと古い感じだけど、「それでそこまでできるんだ」と驚いたり、解釈可能な計算論の良さを感じた

返信先:@ask_nugeyXAIという解釈可能な機械学習の本読んでるんですけど、その中で自然言語処理に触れられてて、その実装初めて見たんですけど思ってたよりも面白かったです！

返信先:@JN1ORPそうなんですね… 「ゼロから作るＤｅｅｐ Ｌｅａｒｎｉｎｇ ２ 自然言語処理編」 図書館に無かったですか… この本　とても重宝すると思います。 買いたいですが、 3,960円のお値段が 敷居が高いです🥲

返信先:@JN1ORPその本 既に発売終了してますね。 図書館に以下の本あれば 「ゼロから作るＤｅｅｐ Ｌｅａｒｎｉｎｇ ２ 自然言語処理編」 サンプルもダウンロードできるし、 その本と共に 学べると思います。

返信先:@ca4f3cありがとうございます！自然言語処理の研究室・ゼミがある大学は多くないので、指導教員が詳しくない場合でも少し底上げできるかな、と期待しています（この本では実際の実装までは分からないので、サポートサイトを1年半ほどかけて拡充していく予定で、まだ建設予定地みたいな感じですが。。。）

返信先:@negativehand線を引きながら読んでいただけて、光栄です！（自分も昔は線を引きながら読んでましたが、最近は本の角を折ってマークするくらいでした） 誰も知り合いがいないところに飛び込むという人が増えると良いなと思ってます〜（ちなみに自然言語処理は学際的で、元々新しい人に寛容なコミュニティです）

『自然言語処理の教科書』を読みました データやモデルの選び方について、更新頻度やライセンス等まで配慮されてる本は珍しい気がします 「文と文書と文章を使い間違えると変な空気になる」みたいな、地味に重要なTipsがいろいろあるのも個人的なお気に入りポイントです pic.twitter.com/LAgdcW4aNw

返信先:@a_saitoh（深層学習以前ですら）自然言語処理の勉強をしていて生成文法が出てくることはほぼなかった（チョムスキー階層とかは形式言語では出てくると思いますが）ので、重要度は低いです。ただ、計算機で実装できる複数の文法体系があるという知識は重要なので、本では依存文法と句構造文法は取り上げました。

［今週のリリース情報］データ分析の前処理を学べる技術書の改訂版が登場。MySQL運用のノウハウ本，自然言語処理の教科書，SOLIDWORKSやCanvaの解説書など学べる書籍が発売，ほか gihyo.jp/dp/information… #gihyodp

本、届いた！ システムのデザイン、{分類・回帰，系列ラベリング，言語生成｝問題の解き方、言語資源の作り方。ほかの教科書が要素技術だとして、そこからシステム作るまでの間にあるギャップを埋めてくれそう。(･ξ･) 『自然言語処理の教科書』小町守（技術評論社） amzn.to/3WUO4nj #ぴ読

返信先:@yo_eharaそうですね。書いてみて、これは10年前に書いて（書けて）いたらよかったのになあ、と思いましたが、10年前には「自然言語処理の基本と技術」がまだ世に出ていなかったですし、「自然言語処理の基本と技術」がないと今回の本も存在しない（補完できない）ので、これはこれで人生かなと思っています。

返信先:@mamorukあ、なるほど、持橋先生のご本との内容が被らないような兼ね合いがあったのですね。 はい、自分が自然言語処理の教科書を書くとしたら、構文解析について用語紹介だけでもしておかないと…という気分になるかと思ったのですが、全く触れないというのは斬新でした。確かに工学としての自然言語処理に

「自然言語処理の教科書」と第する本が、索引に「構文解析」も「構文」も"parsing"も「パージング」も入ってなくて成立するということそのもの自体が、時代の変遷を象徴していてしばらく考えて衝撃を受けたのがざっと読んだ感想です。これが「計算言語学の教科書」なら違っていたかもとも思いました

ゼロから作るDeepLearning 自然言語処理編 読了 RNN, LSTMメインの本だったからTransformer理解するには他の本も読む必要はあるけど、word2vecから丁寧に解説しててすごくわかりやすかった。入門書にはめちゃくちゃ良い。 1周目は集中すれば流し読みして1日で読み終わるぐらいの分量

次の動画が視聴可能です！ ・2Dマリオを作ろう！ ・Twitterを作ろう！ ・ベイズ統計学 ・コンピュータシステムの理論と実装 ・自然言語処理100本ノック ・機械学習の数理工学 ・ゲーム開発集中講座 / Unreal Engine5チュートリアル ・理系大学生・工学者のための速習Python

本日付で、東北大学の助教に着任しました。データ駆動科学・AI教育研究センターに所属し、@drJunSuzuki さんのもとで引き続き自然言語処理の研究に従事します。今後ともどうぞよろしくお願いいたします。