  |
まず「独自に蒸留と呼んでる」「素人の我流」とか言っているが、知識蒸留の本質は複雑モデルの出力を教師データ化して軽量モデルを訓練することだ。
LLMでラベル付けして、それを回帰や分類に落とし込むのは蒸留の標準的な応用の一つであり、研究論文でも散々出ている。
だから「独自の造語」扱いしている時点で、お前が学術的な常識を把握しないで自己放尿しているだけだ。
「素人の我流」と言うが、それはお前が蒸留の定義を知らない欠如から来ている。
知識不足を攻撃に転化するのは、自己放尿の温もりに浸かって安心しているようなもので、実際の研究現場では通用しない。
要するにお前は「蒸留」という言葉の正しい定義を学んでいないだけ。学び直す必要があるのはどちらかわかったかな？
お前自身の知識不足を攻撃に転じるのではなく、欠けている部分を補えば、自己放尿で終わるのではなく、きちんと研究的な議論に参加できるようになる。
ラベルが一つか複数かの違いだけやで
ちげーよ ラベルが半自動フィードバックか、手作業アノテーションかの違いって言ってるだろ馬鹿
ちみは色んな言葉は知ってるみたいだけど、それぞれが派生物なのか全くの別のものなのかといった系統だった理解が全然出来てないね わいは横から口出ししてるだけだけど、この手の...
だからさ、まず「手作業でクラウドソーシングでアノテーションをしていた頃」ってのがあったのを知ってる奴じゃないと話にならねぇの んで、LLMでそれは自動化して蒸留することがで...
LLMでラベル付けしてそれを元にリグレッションやってるのを君独自に蒸留って読んでるんやろ？ それ素人の我流やろ それでも結果出してるならいいけどさ だったらフォーラムとかで発...
まず「独自に蒸留と呼んでる」「素人の我流」とか言っているが、知識蒸留の本質は複雑モデルの出力を教師データ化して軽量モデルを訓練することだ。 LLMでラベル付けして、それを回...
おおっ！出た！自己放尿！
あんまりロジスティック回帰をモデルとは呼ばないんですよ 具体的にどんなモデルをつかってるの？ LLMでラベルつけて単純な非NNのロジスティック回帰にするってことはLLMは単に外部のA...
頭大丈夫か？ 俺の蒸留の意図はコストじゃなくて速度だぞ？
「自分が知らないから他人が間違えてる」と考える奴は無能 https://snorkel.ai/blog/llm-distillation-demystified-a-complete-guide/
あーウチの先輩ジュニア（俺のが入社後だから）も最初はブログとか出してきたけど最近すっかりやめたね だれも「間違えてる」とかいってなくてそれは君の思考パターンなんよ で、...
「うちの先輩ジュニアも最初はソース出してきたけどやめた」って？ それは君の先輩が君を面倒くさいやつと思ったから、説明を放棄しただけだよ。 誤解するな。相手が正しいからソー...
透視能力まであるみたいね笑 俺はいちいち言わないよ ただ自分が出す時は論文かRFCやIEEE等のものしか出さなかっただけ
そんなんでよく仕事できるな snorkelなんて自動アノテーション界隈じゃ有名所で、そこが書いたテックブログなんだからある程度信用できるだろ
何度も何度も言ってるが俺は機械学習は本職じゃないが 本職の方ではテックブログなんかかいてるのは俺に全然届かない実績の若い奴が名を売るためにやってるのがほとんどだからね そ...
そういのはLLM以前から普通にやってます、って話なんだけど
おいおい、LLMで自動アノテーションって話をしてるんだから、LLM以前には不可能だろ
大概の問題はLLM無しで自動アノテーションなんてできないと思うが
LLMで応用範囲が広がったのは事実だとして、LLMなしだと大概の問題で出来ないと思ってるなら勉強不足やね
じゃあどうやるの？いままで手作業でアノテーションしてたのって手作業じゃないと不可能だからだぞ？
AIにアノテーションの自動化手法の歴史についてレビュー書いてもらいなよ
これまでアノテーションが手作業で行われてきたのには、手作業でなければ不可能だったという明確な理由があります。 機械では到底及ばない、人間の持つ能力が不可欠だったからです...
興味ないね
また魔晄中毒？
魔晄中毒ってやつさ
君一回ちゃんと機械学習習ったほうがいいよ 微分と線形代数と統計ちょっとわかれば半年くらいでわかるから
そんな基本的な数学の話をするのなんて大学生だろお前？ ケツが青いんだよね 機械学習についての経緯を本当に理解してるなら、Amazonのクラウドソーシングで安い人件費使って手作業の...
毎回君はそうだが俺はそもそも機械学習は専門ではないぞ？ 君のが現場なんじゃない？ 俺アーキテクトでそこそこ大規模システムの設計開発とかそっちの方だし ただ海外ではそういう...
お前は文脈をまず理解してからにしろよ まず以下のタスクがある。 「経済のポジネガ判定」 これは逐一LLMを使うと時間がかかるし、かといって「ポジとネガ」を表すラベルをdistant superv...
でも君書いてるのクローラーですよね？
クローラー？なにいってんだこいつ？
君みたいなの爆釣れなんだよここ じゃあ何やってんの？
個人情報をこの場で開陳すると思うか？自己紹介もしない奴に？冗談は顔だけにしてね
またレガシーコード移行増田？
13
