日本語 0.3B Mistral 事前学習モデル

Mistral アーキテクチャで日本語を事前学習した 0.3B のベースモデルです。

概要

Mistral アーキテクチャを使い、日本語で事前学習した 0.3B のベースモデルを Hugging Face で公開しました。制作期間は 2024 年 4 月です。

事前学習と公開を担当しました。