【AI速報】日本語対応チャットAI「Vicuna-13B」が一般家庭のPC上で動作可能に
引用元: 【AI】ChatGPTに匹敵する性能の日本語対応チャットAI「Vicuna-13B」のデータが公開され一般家庭のPC上で動作可能に [すらいむ★]
Sponsored Link
Vicuna-13BはChatGPTの90％の性能を持つと評価されているチャットAIで、オープンソースなので誰でも利用できるのが特徴です。
2023年4月3日にモデルのウェイトが公開され、誰でも手元のPCでチャットAIを動作させることが可能になったとのことで、早速使い勝手を試してみました。
GitHub – lm-sys/FastChat: The release repo for “Vicuna: An Open Chatbot Impressing GPT-4”
https://github.com/lm-sys/FastChat/#vicuna-weights
（以下略、続きはソースでご確認ください）
Gigazine 2023年04月04日 20時15分
https://gigazine.net/news/20230404-vicuna-weight/
メモリー64GBでも足りないようなこと書かれてるけど
一般家庭のPCの殆どは無理だろ🥺
> GPUを利用する場合、GPUメモリが28GB必要とのこと。
必須GPUメモリ28GBとか逸般の誤家庭なら普通だね
知らんけど
そっからの次は～って
EDGEの奴の方が手頃で十分だな
https://gigazine.net/news/20230331-chat-ai-vicuna/
vicuna-13b 動作メモ(ROCm で動作検証もあるよ)
https://zenn.dev/syoyo/articles/3146b0b0f1dfba
おすすめ記事
そらそうよ。5年以上前のレベルのFreedomみたいなの使ってすげーとか言ってるのは日本の周回遅れを感じる有り様
競合してシステム障害ぐらい簡単に起こせそう
飛行機止めたり
電車止めたり
普通の家庭はメモリ128GBでRTX6000くらいなんだろうな
Sponsored Link
お前ら自分で調べ考えること忘れるなよ(´・ω・｀)
何かを質問した場合、ウソを教えらる事が多い
こんな不完全なツールを法律で規制するとか意味不明
BingAIはもっと酷い 誤りを指摘して修正しようとすると
強制的に話をおわらそうとする それと、回答の内容のソースが
古かったり素人のURLを参照しがち
よって、現状のAIを信じてはいけない 結局は自分で確認が必要
自分も信用出来ない
人間の脳も似たようなことをやっているだけじゃないの？
世間の情報からパターンを学習して入力と出力との関係を再現しているだけ。
その書き込みに対し、ChatGPTさん自身に反論を考えてもらったらこんな感じになったぜ
もちろん、反論の一例を提案します。
「AIがインターネット上の情報を集めて出力するだけだという考えは、実際のAIの機能や能力を過小評価していると思います。まず、AIは機械学習によって、膨大なデータから有益な知識やパターンを抽出しています。この過程では、AIは複雑なアルゴリズムを用いて、入力データから最適な予測モデルを構築します。
さらに、AIはその予測モデルの評価を行います。交差検証や他の評価指標を用いて、モデルの性能や適用範囲を把握し、より高い精度や一般化性能を持つモデルを選択します。
また、AIは膨大なパラメータ設定を扱うことができます。これにより、AIは異なるデータセットやタスクに対して、最適なパラメータを選択し、モデルの性能を向上させることができます。
これらの点を踏まえると、AIは単にネットの情報を集めて出力するだけの存在ではなく、高度な知識や技術を駆使して、複雑な問題を解決する能力を持っていると言えます。」
このような反論がAIの能力や機能についての理解を深める助けとなることを願っています。
そのスクリーニングパラメータの技術だと思うんだが
それらが調整ずみのモデルだと思っていいのか？
メモリが60GB程度必要・・・
『【AI速報】日本語対応チャットAI「Vicuna-13B」が一般家庭のPC上で動作可能に』へのコメント