「物々交換できる各概念を、動径がAu換算の価値,各偏角が特徴量のn次元極座標系に置くと、弾性・塑性変形する超多面体で市場経済を表現でき、任意点を基準とした他点の相対価格の増減は、相場を示すローソク足として表現される」→ #Perplexity #ChatGPT の結論：特徴量の重み付けに追加の研究が必要。

超ひも理論が10次元とか。AIは特徴量の数だけ次元があって、そこに存在する正解ベクトルと内積を取って、近い正解ベクトルを用いて答えを出すのかなと。結局、既存のトレースでしかなく新しいものを作り出すことはできないのかなと。新しいものを作る独創性には勝てない。選択力がある人も勝てるかも。

#Perplexity「物々交換できる各概念を、動径がAu換算の価値,各偏角が特徴量のn次元極座標系に置くと、弾性・塑性変形する超多面体で市場経済を表現でき、任意点を基準とした他点の相対価格の増減は、相場を示すローソク足として表現される」 以上の理論の利点と欠点は何か？→ perplexity.ai/search/Aun-_Q6…

不登校になりそうな児童生徒をAIが予測、戸田市の教育データ活用実証が示したこと xtech.nikkei.com/atcl/nxt/colum… モデル構築に際して精度向上に影響を与えるのが特徴量の重要度だ。小学校の場合、出欠席情報や教育相談が重要度の上位にくるだけでなく、「健康診断の体重や歯科検診が上の方に来る」

PC1への寄与率が高い特徴量 CRI, INDUS,NOX,RADに多重共線性が生じてそうなので調査． 全てのペアでおよそ0.6以上なので多重共線性が生じているといえる．(相関係数だけでは言えないのか？) pic.twitter.com/jOAU6lrm3q

PCAの理解を深めるためにboston housing datasetで遊んでみた． 住宅価格(1枚目のグラデーションと対応)がほとんど二次元平面上に明らかな傾向が現れてて面白い． ２枚目の主成分に対する特徴量の寄与率より以下の傾向がわかる． pic.twitter.com/9sU2JgBW22

しかも例え逃げ馬が一頭だけだったとしても、「実はそいつがパンサラッサだった」とかだったらどう足掻いてもハイペースになるのよなぁ・・・ｗ この辺は特徴量次第でどうにでもなるんだろうけどｗ

「各脚質の馬がどれだけいるか」と言う特徴量を足したらこうなった。 この辺はペース予測モデルを別途作るとかかなぁ・・・ でもペース取れないのよなぁ・・・多分ｗ

返信先:@Yuki_Sahashiちなみに解決策は、データの数でゴリ押すか、前処理でできるだけ揃えるか、特徴量抽出でstructuredに近い形にするかしか思いつきません…

ペットロボって見た情報全て録画してたらプライバシー的にも容量的にも問題あるから特徴量抽出みたいに場面場面を記憶してるんだろうなぁと。じゃあﾀﾋぬとき思い出まとめ動画が抽出されて流される…ってコト！？

これ読み終えてました 「特徴量を加えたのに精度が上がらない」 「以前は上手くいったのに今回は上手くいかない」 実務じゃないとぶつからないようなことを書いてある貴重な本です あと 「軽くて簡単なモデルで精度が得られるならそれでいい」 も 事例で学ぶ、の言葉の通りいい本でした

自分の場合、実験段階から本番に近づけようとScikit-learnのPipelineを使って特徴量生成を行っているんだけど、 意外とやってる人すくない説。。 使わないとtrain側でfitしたやつをvalidでtransformさせるのダルくない？？

機械学習は人間の直感に近いものを持っている。直感はある種のショートカットである で、機械学習でできることって何か？というと特徴量の抽出である 直感が優れてる人間というのは特徴量の抽出がうまいと言い換えられる？ 以下Opus…

shareGPT混入で高性能化する話、アウトプット学習（GPT-4の特徴量学習）通して低パラメータにGPT-4を複製してることになるよね、ふと理解しました

3日目のジャンタニ実験 ジャンボタニシが端っこによる理由の一つとして、日中及び直射日光の中を嫌うがために比較的水温が低く、避暑地となる端っこに移動する可能性あり。 誘引効果の特徴量を吐き出させるのであれば、夕方から早朝にかけて実施するのが望ましい pic.twitter.com/6N1DeK9vof

高度なモデルは特徴量の学習だけで適切な回答に辿りつける→補助線を隠蔽してると見なせるんじゃないか

arxiv.org/pdf/2404.17608 大学のクラスプロジェクトのようだ。Silent Speechの論文ではない。 動画の特徴量獲得にVQ-VAEを使用するのは、界隈では定番なのだろうか？

画像生成AIを使うことで、「これからキャラクターにつける名前」とかで特徴量を出してパブリック・イメージとデザインの乖離を調べる使い方もあるのだろうか

株の値動きは投資家の期待を背負っているんだよな。いくら好決算でも、期待に対してどうなのか？っていう特徴量が良いと思うんだよな。

The Virtue of Complexity in Return Prediction 特徴量>サンプル数 の方向に拡大して学習！ deliverypdf.ssrn.com/delivery.php?I…

返信先:@otter_scientistそう言うの面白そうやし思わぬ特徴量見つかりそう😏

文の最初が大文字、特定の記号を含む等の特徴量14個を用いてテキストの品質スコアを計算する方法を提案。OpenWebTextとWikipediaをフィルタリングしたときにモデル（GPT-2, GPT-Neo-125M, Pythia-160M, OPT-125M）の性能が上がったと報告している。 arxiv.org/abs/2405.01582

個人的には断定する奴ほど信用ならんの特徴量として学習しとる、場面にもよるが。 絶対にダニングクルーガー曲線の谷越えてないやろって思ってまう pic.twitter.com/Ls3b0c3EBP

やはり、インプットに使う特徴量は、自分自身がその意味を解釈できるものに限定しないとですね。得ないの知れない特徴量が重要と言われても、そこから何もアクションできない。あと、ドメイン知識を増やして自分の側の解釈力を高めておくことも大事だなあと。

今日は実務で解釈をいろいろやった。けっこううまくいくので、調子に乗ってすごい数の特徴量をインプットに使って回帰のモデルを学習させてから試しにSHAPやってみたら、私には解釈できない謎の特徴量が重要だと解釈された。乙。で、私にどうしろと？

返信先:@o_morikawa用語がわかっていないものがあるので雰囲気だけの回答です。特徴音と阻害音の組み合わせと、ヒトが利用するかもしれない特徴量の種類が膨大にありすぎ、個人ごとでもまずパラメータの種類を定めるのが困難で、パラメータの具体的な値はさらに難しいです。

めちゃ簡単な特徴量として上下左右のセルとか近傍８セルとかとの偏差（対象セルとの数値的差分）とかをとってて、影響が大きいから、それを妨害するノイズをいれよう、ってするとしてですね。 じゃあ周囲２４セルの情報を使おう、ってなったら終了なわけです。 思いつきのレベルで対策されるのよ。

sciencedirect.com/science/articl… Al-Liを基本として他元素も加えた合金探索。specific modulasとspecific strengthをターゲットに材料探索。MLで材料探索し、実験で実証。 やっていることはシンプルだが、堅実に特徴量削減やモデル検証などして新組成を見つけている。 #マテリアルズ・インフォマティクス

返信先:@LimgTWありがとうございます。はい、確かにおっしゃる通りです。ICPだけで難しい場合は、例えば、点群の特徴量を抽出して、それでおおまかに位置合わせをして、それをもとにさらにICPでレジストレーション、といった流れなどが考えられると思います。

美人、イケメンとか顔が整っていると全く人が見分けられなくなるのだいぶ困る、特にマスク社会だと顕著。こういう人を記憶時に特徴量がないって脳内で判断してるの終わってる。 みんな変な物を身につけるんだ

うお、今になって特徴量エンジニアリングの本読まなくちゃいけないか (蔵書はしてる…はず もう機械学習なんてすっかり忘れちゃったなあ…

返信先:@d_morikawa物理学者は難しいことできないので、 例えば反応した瞬間を相転移としたら、特徴音がrelevant, 阻害音がirrelevantなorder parameterとして臨界指数を定める。 特徴量間相関について相関長、平均自由到達情報量として個人の聴力の指標にする。 とか？

実証実験はこんな手順でした！ 1.客数データをチェック 2.商品マスタをチェック 3.棚割データをチェック 4.リフト値による分析実施 5.併売特徴量による分析実施 6.クラスタリングを実施 7.協調フィルタリングによる分析を実施 8.現場の意思をくみ取りながら棚割を作成

返信先:@o_morikawa定義をするのは難しいと思います。聴き取る音・阻害する音それぞれの情報の内容や、個人の経験等にも左右されるからです。効果に貢献する音の特徴量は様々報告されていますが、音によってどの特徴量がどの程度貢献するかも変わりますし、特徴量間に相互作用もあります。

線形回帰の場合、SHAP値を使わずとも素朴に特徴量の貢献度を加法的に分解できたのだった。そこで、試しに線形回帰にSHAP値の定義を適用して計算してみると、SHAP値を使わない素朴な分解が再現されて、ほっこり。ちゃんと線形回帰の分解を非線形なブラックボックスモデルに一般化したものになってる！

で、すべての参加順番について限界貢献度を計算して平均をとることでSHAP値とする。このように定義することで、個体レベルで、すべての特徴量のSHAP値の合計が着目個体の予測値と全体の予測値の期待値の差に一致するのだから、びっくり。ちゃんとSHapley値によるAdditiveなexPlanationになってる！

解釈本。協力ゲーム理論のShapley値を機械学習の予測値の解釈に応用してSHAP値を定義。特徴量をプレイヤーとみなして、個体レベルでの予測への不参加を周辺確率による期待値で表現する。

ノイズを乗せてAI学習防止的のは、恐らくは、よほどS/N比を悪くしない限りは多分あまり効果がなくて、特徴量を取り出せないぐらいにノイズまみれにしないと難しいかも。そうなると人間による読み取りも難しくなりますが（笑）

返信先:@30years_over「特徴量の抽出」の内容も説明しないままケチ付けてるだけのお前に言われてもなｗ