DeepSeekがV4モデルをオープンソース公開、パラメータ規模は1.6兆に達する

Odaily星球日报讯 DeepSeek は V4 シリーズのオープンソースモデルプレビュー版をリリースし、MIT ライセンスを採用。重みは Hugging Face と ModelScope で公開されています。

本シリーズには 2 つの MoE モデルが含まれており、V4-Pro の総パラメータは約 1.6 兆、単一トークンあたりの活性化パラメータは 490 億。V4-Flash の総パラメータは 2840 億、活性化パラメータは 130 億で、いずれも 100 万トークンのコンテキストをサポートします。公式発表によると、V3.2 バージョンと比較して、長文推論におけるメモリ使用量と計算コストが大幅に削減されています。