Open2023/10/01にコメント追加10Llama で fine-tuning Hello Worldseya2023/09/30資料 seya2023/09/30https://speakerdeck.com/hpprc/lun-jiang-zi-liao-lora-low-rank-adaptation-of-large-language-models 返信を追加seya2023/09/30これでやってみる https://www.youtube.com/watch?v=74NSDMvYZ9Y seya2023/09/30これ使う。 https://auth.gradient.ai/ アクセストークンを取ってこちらの Google Colab に貼り付ける https://colab.research.google.com/drive/1I2JretY-7qeX4G4bE2SgQzgkB779P326?usp=sharing seya2023/09/30Colab の実行ボタンポチポチ押してくだけでできた。 あまり学びになってる感がないのでローカルで動かす -> portable な状態にするにはどうしたらいいのかを学んでみる seya2023/09/30「自分の会社(Gaudiy)にめっちゃ詳しくチューニングされたモデルを Huggingface にアップロードする」をゴールにする seya2023/09/30https://www.youtube.com/watch?v=g68qlo9Izf0 seya2023/10/01QLoRA https://github.com/artidoro/qlora seya2023/10/01ludwig の README 通りにやってみる https://github.com/ludwig-ai/ludwig seya2023/10/01Huggingface のこれへのアクセスが必要 https://huggingface.co/meta-llama/Llama-2-7b-hf 返信を追加
seya2023/09/30資料 seya2023/09/30https://speakerdeck.com/hpprc/lun-jiang-zi-liao-lora-low-rank-adaptation-of-large-language-models 返信を追加
seya2023/09/30https://speakerdeck.com/hpprc/lun-jiang-zi-liao-lora-low-rank-adaptation-of-large-language-models
seya2023/09/30これでやってみる https://www.youtube.com/watch?v=74NSDMvYZ9Y seya2023/09/30これ使う。 https://auth.gradient.ai/ アクセストークンを取ってこちらの Google Colab に貼り付ける https://colab.research.google.com/drive/1I2JretY-7qeX4G4bE2SgQzgkB779P326?usp=sharing seya2023/09/30Colab の実行ボタンポチポチ押してくだけでできた。 あまり学びになってる感がないのでローカルで動かす -> portable な状態にするにはどうしたらいいのかを学んでみる seya2023/09/30「自分の会社(Gaudiy)にめっちゃ詳しくチューニングされたモデルを Huggingface にアップロードする」をゴールにする seya2023/09/30https://www.youtube.com/watch?v=g68qlo9Izf0 seya2023/10/01QLoRA https://github.com/artidoro/qlora seya2023/10/01ludwig の README 通りにやってみる https://github.com/ludwig-ai/ludwig seya2023/10/01Huggingface のこれへのアクセスが必要 https://huggingface.co/meta-llama/Llama-2-7b-hf 返信を追加
seya2023/09/30これ使う。 https://auth.gradient.ai/ アクセストークンを取ってこちらの Google Colab に貼り付ける https://colab.research.google.com/drive/1I2JretY-7qeX4G4bE2SgQzgkB779P326?usp=sharing
seya2023/09/30Colab の実行ボタンポチポチ押してくだけでできた。 あまり学びになってる感がないのでローカルで動かす -> portable な状態にするにはどうしたらいいのかを学んでみる