add yamls

Author: yuiseki

recipes/A5000_24GB_x8/Llama-3-8B/Llama-3-8B-ja-wikipedia.yaml

@@ -0,0 +1,27 @@
+target_task: tasks/i18n/ja.md
+base_model_id: meta-llama/Meta-Llama-3-8B
+model_name: Llama-3-8B-ja-wikipedia-v0.1
+output_base_dir: output
+dataset_id: wikimedia/wikipedia
+dataset_load_config: 20231101.ja
+dataset_input_field_name: text
+dataset_train_split_seed: 42
+dataset_train_split_test_size: 0.2
+lora_r: 8
+lora_alpha: 16
+lora_dropout: 0.05
+train_claim_gpu_num: 8
+train_per_device_train_batch_size: 1
+train_gradient_accumulation_steps: 128
+train_num_train_epochs: 1
+inference_max_new_tokens: 32
+evaluations:
+  -
+    prompt: "２つ以上の文字を組み合わせて図案化したもののことで、特にルイ・ヴィトンのものが知られるのは何でしょう？"
+    expected_output: "モノグラム"
+  -
+    prompt: "幾つかの布切れを縫いあわせ、飾りや模様を作る手芸方法を何というでしょう？"
+    expected_output: "パッチワーク"
+  -
+    prompt: "格闘家ボブ・サップの出身国はどこでしょう？"
+    expected_output: "アメリカ"

recipes/A5000_24GB_x8/RakutenAI-7B/RakutenAI-7B-math.yaml

@@ -13,7 +13,7 @@ lora_dropout: 0.05
 train_claim_gpu_num: 8
 train_per_device_train_batch_size: 1
 train_gradient_accumulation_steps: 128
-train_num_train_epochs: 5
+train_num_train_epochs: 1
 inference_max_new_tokens: 32
 evaluations:
   -

recipes/A5000_24GB_x8/gemma-7b/gemma-7b-ja-wikipedia.yaml

@@ -0,0 +1,27 @@
+target_task: tasks/i18n/ja.md
+base_model_id: google/gemma-7b
+model_name: gemma-7b-ja-wikipedia-v0.1
+output_base_dir: output
+dataset_id: wikimedia/wikipedia
+dataset_load_config: 20231101.ja
+dataset_input_field_name: text
+dataset_train_split_seed: 42
+dataset_train_split_test_size: 0.2
+lora_r: 8
+lora_alpha: 16
+lora_dropout: 0.05
+train_claim_gpu_num: 8
+train_per_device_train_batch_size: 1
+train_gradient_accumulation_steps: 128
+train_num_train_epochs: 1
+inference_max_new_tokens: 32
+evaluations:
+  -
+    prompt: "２つ以上の文字を組み合わせて図案化したもののことで、特にルイ・ヴィトンのものが知られるのは何でしょう？"
+    expected_output: "モノグラム"
+  -
+    prompt: "幾つかの布切れを縫いあわせ、飾りや模様を作る手芸方法を何というでしょう？"
+    expected_output: "パッチワーク"
+  -
+    prompt: "格闘家ボブ・サップの出身国はどこでしょう？"
+    expected_output: "アメリカ"