【論文採択🎉】 当センター員の川畑輝、NIIの菅原朔助教による論文が自然言語処理のトップカンファレンス「#EMNLP2024」に本会議採択されました ２年連続の採択です🎉🎉 大規模言語モデルの信頼性向上のために、出力を推論の妥当性に着目して改善する手法を提案しました arxiv.org/abs/2410.04838 pic.x.com/3FcRvMfr3L

#EMNLP2024 findings採択論文です！ 知識グラフ埋め込み(KGE)ではノードをベクトル、関係性をベクトルや行列で表現しますが、ノードも行列で表現する、というアイデアです。関係性についてもブロック対角の直交行列にすることで、既存の2x2や3x3の回転をベースにしたものを拡張しています。… pic.x.com/MUAIly0asQ

📜#EMNLP2024 Main採択論文のarXivです！ arxiv.org/abs/2409.19919 pic.x.com/N0qjgHroiZ x.com/momose12345678…

#EMNLP2024 main採択論文です！ 単語埋め込みをICA変換すると「独立な意味の軸」が出てくるけど、完全に独立ってわけではないので、高次相関の大きい軸ペアでみると意味を加法構成した単語がたくさん出てきます。なおPCAもICAと同様に白色化してますが、PCAでは意味の軸がそもそも見えなかったりする。… pic.x.com/Mhdl4oztPb x.com/hshimodaira/st…

言語モデル等で重要な「埋め込み」に関連して、EMNLP３本、NeurIPS１本、論文採択されていました！　埋め込みの理解に関する研究（ICA，高次相関、白色化）と、知識グラフ埋め込みを行列表現する研究です。 #EMNLP2024 #NeurIPS2024 pic.x.com/fhtpcdlduy

EMNLP 2024 に3本の論文が採択されました。また、Findings にも1本の論文が採択されました。#EMNLP2024 #NLProc nlp.ecei.tohoku.ac.jp/news-release/1… pic.x.com/otpztvzdvs

主著論文 Understanding Higher-Order Correlations Among Semantic Components in Embeddings が #EMNLP2024 本会議に採択されました🎉 単語埋め込みの独立成分同士にはICAだと取り除けない非独立性があります。この非独立性を高次相関で定量化すると意味成分間の関連性が見えてくるという研究です！

こちらの論文が #EMNLP2024 Findings (short) に採択されました！近日中に camera ready 版を公開予定です． x.com/ymgw55/status/…