GNN Liveとても面白かったけど、最後の質問が消化されたあと自分の質問が画面にスライドして投稿した渾身のコメントが人気ライバーに気付かれない時の切なさを味わってしまった。 GNNは守備範囲が広くCNNとTransformerの一般化であり、Dynamic GNNはLSTMやRNNに情報集約の一捻りを加えたものだそうな。

【プログラミング素人のはてなブログ】KerasでRNN(LSTM)を試してみた s51517765.hatenadiary.jp/entry/2018/08/…

関係性がある記事として東工大が作ってたものがあります。やはり僕の推測は正しいLSTM使ってる shiropen.com/machine-learni…

時系列で動作予測はLSTMだと思うよね

返信先:@Taiyo_AiAAそうですね。deeplearningとかCNNとかLSTM使ってると思います。

LSTMって勾配消失大丈夫そ？たまたまバックプロップ流す直前に入れた情報ばっかり食ってない？？

記事を投稿しました！ Pytorchを使ったBidirectional LSTMによる文章分類の推論結果が異なる問題 [Python] on #Qiita qiita.com/TSUTAYA_00926/…

FXとか仮想通貨のAI作ってアプリにしたい。LSTMのseq2seqで取り組んでたけど、生データの予想は諦めたほうがよさそ

みんなおはよう！ 今回は自己回帰型LSTMの紹介🤔 予測値を使ってさらに次のステップを予測することで、一般的なLSTMよりも精度を上げるモデルだね👍 pic.twitter.com/05NgATecgd

LSTMを実装したんだかしてないんだかわからん

前職の時に自分が社内用に作ってたLSTMの解説めっちゃわかりやすいな。なんかブログに落とすか迷うな、今更すぎるな

返信先:@Lzh77777777まあ初手LSTMとかえぐいなぁとは思う こうもっとDenseとか…Denseって逆伝播あったっけ

LSTM試した時もそうだったけど、とりあえず環境揃えてしまえば後は関数のノウハウ設計とデータ収集と未学習領域に出た時に同対策するか、という部分はやはり同じですね。

時系列データの学習根拠出力しようとして、LSTMは勾配消失のせいか使い物にならなかったから無理やりCNNに押し込んだことはある　全然普通に学習できたし勾配大きい部分もうまく出力できたので嬉しかったけどかなり場当たり的なやり方だったな

画像にはCNN! 時系列にはLSTM! 有名なモデルばっかり使ってたから改めて単なる表データ渡されると何が適してるのか分からない

パラメータチューニングのgp_minimize これの使い方をLSTMの学習の中で確認しているのだけど、想像以上に処理に時間がかかっている スケーリングの選択（minmax or standart）のどっちが適切かでさえもやばい これにhidden_size, epoch等が加わるとさらにヤバみだろうな・・・

返信先:@akiakuno我是LSTM（

さらに、LSTM（Long Short-Term Memory）は、リカレントニューラルネットワークの一種で、テキストや音楽の生成に使用されます。 GPT（Generative Pre-trained Transformer）は、自然言語処理の分野での生成AIで、大量のテキストデータを学習して文章生成や文章の翻訳を行います。

RNN,LSTMらへんの話かな？今の翻訳システムはもっと進化してますね。

- 米国経済の四半期GDP成長を予測するために、月次のFRED-MDデータベースを使用して、異なる5つの人工ニューラルネットワーク（MLP、1D CNN、Elman RNN、LSTM、GRU）のモデルの予測性能を比較した。 - 2012年第1四半期から2019 #AI

LSTMに対応したXAI少なすぎるよー…凄い時間費やしてしまったじゃないの…_(:3」∠)_ ようやくPermutation Importanceを自分で関数化して実装できたわ。これで学習後のモデルに対する特徴量の重要度評価ができる(๑•̀ㅂ•́)و✧

ゼロから作るDeepLearning② 自然言語処理編 7章 RNNによる文章生成 完了。 EncoderとDecoderが出てきたけど基本的にLSTMを使っているだけなので軽く終了。次は最終章かつAttention。楽しみ。

仕組みは単純で、 query, key, value をそれぞれ head_num 個に split してからそれぞれ attention を計算し、最後に concat するだけです。 この Multi-head Attention が RNN における LSTM, GRU セルのように Attention ベースのモデルの基本単位になってきます。 qiita.com/halhorn/items/…

いや、AIも忘れるよ？ LSTM知らんのか。

過去5年間のデータを用いてlstmで株価のディープラーニングを実施 スケーリングは正規化よりも標準化のほうが精度が上がりそう windowサイズは30日よりも50日の方が精度が上がりそう（100日は要検討） hiddenサイズは100のみで検証 epochは100で充分そう

生のLSTM

kerasライブラリのlstmでその日の気温予測してみたー♬ 湿度と日付とその他もろもろで予測するのだけど実測値と予測値に大きな差が出ているの 使用するデータやパラメータ値を変えたり調整したらもう少し向上するかな? とりあえず予測するところまで行けたので嬉しい!! #Python #プログラミング初心者 pic.twitter.com/QuMMFfaRYT

lstmでepochを100回で学習を進めたときに、図のように一部だけ損失が爆上がりする原因を知りたい pic.twitter.com/pTlNMcZjpu

もうちょいでLSTM使った株価予想のひとまずのゴール 　 それにしても予測→グラフ化がすごく楽しい

LSTMを用いた全球洪水予測。水文モデルベースのECMWFのGloFASの性能を上回る。もう全部Google に取られちゃうんじゃ・・・ doi.org/10.1038/s41586…

patentcom.blog.fc2.com/blog-category-… 脳波信号処理の大まか流れとしては、アナログデジタル変換した後、LSTMリカーラントニューラルネットワークで信号処理します。

オンライン/オフラインでの異常検知手法。 オフラインでは過去の正常データと新しいデータとの間で特徴量ごとにDTW距離を計算し、DBSCANによるクラスタラングで異常検知。 オンラインでは現在時刻の15ステップ前までを考慮して、10ステップ後をLSTMで予測し異常検知。 doi.org/10.1016/j.surf…

メモ， #myjlab ⇒ ( 独居高齢者のための健康見守りシステムの開発 : LSTMを利用した行動認識 | NDLサーチ | 国立国会図書館 ) ndlsearch.ndl.go.jp/books/R0000000…

•LSTM（Hochreiter et al., 1997）などの再帰的ニューラルネットワーク（RNN） •畳み込みを用いたTemporal Convolutional Network（Bai et al., 2018） •Autoformer（Wu et al., 2021）, FEDformer（Zhou et al., 2022）などのTransformer-basedモデル

「はるばる春を」を LSTM で購入しました！ booth.pm/ja/items/55480… #booth_pm 同じゲームをプレイして通して共感出来る所が多くて嬉しかったです。読んでいてお花見したくなりました🌸

今日もお疲れ様でした🫰🏻😉 本日は「機械学習による株価予測」という記事を共有します📚 上場会社の株価データセットを用いて、 株価予測するLSTMの機械学習モデルを構築する手順について解説しています📈 データ分析や機械学習に興味がある方におすすめです😊 #Python qiita.com/pyman123/items…

0.674くらいが限界？ とはいえ、台詞の文章単体からDNNするだけなのに6割5部で話者を当てられるのは意外と良くやってる。 10クラスだから、ランダムでも0.1。 過学習してるからもう少し上がるかもしれないけど。台詞以外の文章も含めて、双方向のLSTMに突っ込んでどこまで精度上がるか試したい。

- SARIMAX(複数周期変数適用化) QQプロット、残差分析、リュングボックス検定 - Prophet(信頼性区間描画含む) - 深層学習モデル(DNN, LSTM, CNN, CNN+LSTM・ローリング予測) ざっとこんな感じで、単変量・多変量ともに対応可能です😆 大変だったけど、達成感あるなぁ😅💪

花見の後に、珈琲&ういろう→昼寝を終えたので・・・ 自作の時系列予測のWebアプリに - DNN - LSTM - CNN - CNN + LSTM も追加実装しましたぜ😆✌️ dayをCyclical化、dayofweekをOneHot化した、株価の取引量予測ですがね😎 検証データで、ピーク値も予測できてますね😎 #Python #webアプリ pic.twitter.com/K6w4eCSIkb