LLM「Llama3.1」GropやHuggingChatなど無料で使える環境「4選」最新バージョン「405B」APIが利用できるようになる!有志が4bit量子化版を公開
LLM「Llama3.1」GropやHuggingChatなど無料で使える環境「4選」最新バージョン「405B」APIが利用できるようになる!有志が4bit量子化版を公開
1: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
meta-llamaさんが公開しているMeta-Llama-3.1-8B-Instructのggufあります
imatrixのデータはTFMC/imatrix-dataset-for-japanese-llmを使用して作成しました
順次アップロードしますhttps://t.co/hAD9KmdEkE
— ぱぷりか炒め (@WMjjRpISUEt2QZZ) July 23, 2024