はてなブログに投稿しました ColabでArXiv論文データを加工してNotebookLMで使ってみる。 - 地平線まで行ってくる。 bwgift.hatenadiary.jp/entry/2024/10/… #はてなブログ #自然言語処理 #LLM

まいどです。 本日の生成AIニュース。 #生成AI #LLM note.com/toshia_fuji/n/…

親しみやすい顔を持つ人型ロボット 日常生活での仕事をこなせるロボットの実現を目指す youtu.be/a0ho6sJdyxk #bipedal #humanoid #robot #ArtificialIntelligence #KindHumanoid #LLM #Olympia #汎用人型ロボット pic.x.com/G6JWFoOxie

【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習 に参加を申し込みました！ matsuolab-community.connpass.com/event/335403/?… #LLM

【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習 に参加を申し込みました！ matsuolab-community.connpass.com/event/335403/?… #LLM

【勉強会 #3】小型LlamaモデルのTRLライブラリを用いた事後学習 に参加を申し込みました！ matsuolab-community.connpass.com/event/335403/?… #LLM

【LLMの最適化について】 LLMの最適化はかなり時間がかかることが問題ですよね・・💦 効率的に最適化する方法として、 PSOを応用したMODEL SWARMSなら、複数のLLMを協調学習させて最適なモデルを探索できるのです👀 ぜひ試してみてください！ #MODELSWARMS #LLM #進化アルゴリズム… pic.x.com/l4N3GvJfN3

今日はChatGPTに「港区に住みたがる奴はバカ」、を認めさせた #chatgpt #ai #論破 #議論 #ディベート #llm #チャットGPT #openai #港区 #港区女子 pic.x.com/0tn80GTNav

#LLM DeepSeekCoder使っててC言語のコード生成に関してはPythonやTypescript , Reactに比べて出来が悪くて予測もハズレなことが多い。 でも関数ヘッダーのブロックコメントだけはハズレなし 引数10個あったとしてもちゃんと全部列挙して、引数の説明まで書いてくれる。 こういう単純作業はめちゃ強い

Google、AI生成テキストを検出できる電子透かし技術。オープンソースで公開 - PC Watch #watermark #LLM pc.watch.impress.co.jp/docs/news/1634…

I joined 【勉強会 #2】小型LlamaモデルのMegatron-LMを用いた事前学習と継続事前学習! matsuolab-community.connpass.com/event/334130/?… #LLM

まいどです。 本日の生成AIニュース。 #生成AI #LLM note.com/toshia_fuji/n/…

質問Qに関連してそうな知識が3つあった場合、 関数 h を二回繰り返して適応し、合成知識 Z を作る。 このようにすれば、知識がどんどん増えた場合にも、追加の学習をすることなく対応できそうです。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

質問Qに最も関連してそうな2つの知識X,Yを選び出し、まず、知識Zに合成する。h(X,Y)=Z その後、 g(Z,Q)=A によって、Qに対する答えA を出す。 これが私が今考えたAIです。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

【Groqアプリで音声機能がスタート】 @GroqIncモバイルアプリで音声機能がリリース。iOS・Android で、Whisper Large V3 を Llama、MixtralもしくはGemmaモデルと組み合わせることで実現。 すでに各アプリストアでリリースされています。 #LLM pic.x.com/MP08FHqPYk

さらに「文書の合成」として、2つの知識X,Yを与えたときに、それらを合成した知識Zが出力されるように h(X,Y)=Z というhの回路網を学習させておけば、新しい知識X,Yに対して合成知識Zを作れるようになるかもしれません。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

「知識も埋め込んで」質問Qだけを入力して、 f(Q)=A のfを学習によって作ろうとするとQが多くなりすぎて時間がかかりすぎる。しかし、知識Xを外に出して、 g(X,Q)=A となるようなgを学習させたならば、知識Xは後から入力できそうです。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

入力層に知識Xと質問Q、出力層にAとして、色々な、X,Qに対して正しいAが出てくるように学習させておく。 すると、X,Qを別のものに入れ替えても、なんとなくそれっぽい答えAが出てくるのかもしれない。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

つまり、X,Y,Q,Aを「言葉の列」として、知識X, Yと、質問Qに対して答えAを、X,Y,Qを入力し、出力がAになるように沢山学習させておく。すると、X,Y,Q を別のものに入れ替えてもそれっぽい答えが出てくるかもしれない。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

あらゆる質問パターンに対する答えをあらかじめ学習するのは時間がかかりすぎるので、2つの知識を仮定したときに1つ質問に対する答えを学習させておけば、知識と質問を変えても汎用的に答えが出せるかもしれません。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

「あらゆる文書をかんがみた神経回路網」みたいなものは、さすがに学習時間が足りないでしょうから、一般的に、任意の2つの文書を合成して1つの質問Xの答えにするような回路を1つ作っているのかもしれません。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

「2つの文書を合成する神経回路網」を予め機械学習で作っているんでしょうかね。一度それが出来てしまうと、その回路網に新しい2つの文書を入れれば、合成して出てくるような。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

何かの質問に対する文書ですが、別のWebPageの異なる文書の知識を組み合わせて、一つの筋の通ったような文書を合成する何らかのアルゴリズムを使っているみたいな気がします。多分単なるLLMではない気がしますね、知りませんが。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

勝ち負けのルールを書いた独自新ゲームなんかの、10回後の結果などを聞いてみたら、ちゃんとシミュレーションして、正確な結果を出してくるみたいです。結構ちゃんとしています。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

プログラミングの質問に関しては、文字列の処理なんかは、ChatGPTの中の手書きプログラミングでシミュレーションしているみたいです。例えば、2つの文字列を連結した後の5文字目の文字列だとか、10回繰り返し連結した場合にどうなるかとか。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

話を戻しますが、やはり、単なる LLM ではなく、二つのWebPageの文書の内容を合成するような仕組みを使っているんでしょうかね。そんな気がします。何かそんなアルゴリズムが有るのかもしれませんね。 #生成AI #AI #プログラミング #深層学習 #LLM #ChatGPT

【新しい量子化 Llama 3.2】 推論速度が最大2～4倍向上し、モデルサイズが平均で56%、メモリ フットプリントが41%削減されるLlama3.2 1B/3Bの新しい量子化バージョンがリリース。 LLMのオンデバイスがさらに進みそう。 Llama 3.2 on-device models ai.meta.com/blog/meta-llam… #LLM x.com/AIatMeta/statu…

Googleが提供する「Gemini Live」が、日本語に対応　友達感覚で対話ができる | Ledge.ai #chat #bot #LLM #AI ledge.ai/articles/gemin…

Anthropic「Claude」にデータ分析機能　AIがJavaScriptコードを書き、その場で実行（アスキー） - Yahoo!ニュース　#program #LLM #AI news.yahoo.co.jp/articles/1b033…

Google Cloud、より高速なトレーニングと推論のためにAI Hypercomputerを強化 #GoogleCloud #AIHypercomputer #MaxText #LLM #CloudTPU cloud.ja.newspilot.blog/google/google-…

大規模言語モデル“LLM”入門 無駄なパラメータの削減 zep.co.jp//tinoue/articl… ・・・・・・・・・・・・・・・・・・・・・・ 膨大なデータとパラメータを用いて高精度な自然言語処理を実現するAIモデル”LLM”が普及してきた．代償は計算量と消費リソースの急増〈ZEPマガジン〉 #LLM #IoT pic.x.com/6SPq1aL6Cd

【勉強会 #2】小型LlamaモデルのMegatron-LMを用いた事前学習と継続事前学習 に参加を申し込みました！ matsuolab-community.connpass.com/event/334130/?… #LLM

研究者らが65%の成功率を誇るLLM脱獄方法を新たに開発 New LLM jailbreak method with 65% success rate developed by researchers #SCMedia (Oct 23) #LLM #ジェイルブレイク #AIセキュリティ #コンテンツフィルター #DeceptiveDelight scworld.com/news/new-llm-j…

大規模言語モデル (LLM) 市場の動向、2032 年 | シェアレポート #LargeLanguageModel #LLM #MarketGrowth #AIRevolution prompthub.info/59885/

AI はソーシャル エンジニアリング サイバー攻撃を強化し、増殖させる可能性がある | 世界経済フォーラム #AICybersecurity #GenAI #LLM #AIattacks prompthub.info/59746/

はてなブログに投稿しました CohereForAI/aya-expanse-8bをColabで試す。 - 地平線まで行ってくる。 bwgift.hatenadiary.jp/entry/2024/10/… #はてなブログ #自然言語処理 #LLM

【ELYZAがLlama 3.1ベースの新LLMを開発、日本語の長文処理などが可能に 】 ELYZAは2024年10月25日、同社が開発するLLM（大規模言語モデル）... xtech.nikkei.com/atcl/nxt/news/… 注目の #LLM 最新情報は👇 enjigraph.com/search?q=LLM #Enjigraph

まいどです。 本日の生成ＡＩニュース。 #生成AI #LLM note.com/toshia_fuji/n/…

AI はソーシャル エンジニアリング サイバー攻撃を強化し、増殖させる可能性がある | 世界経済フォーラム #AIcybersecurity #GenAI #LLM #AIattacks prompthub.info/59703/