TokenFi价格TOKEN

DeepSeek 最近接连推出并开源了 DeepSeek V3 和 DeepSeek R1 ，在海内外引起了不小的反响。其依靠出色的模型质量和极低的训练成本，引起了广泛的关注，并间接带动了英伟达市值的暴跌。 其中 DeepSeek V3 可以说是目前最强大的开源基础模型，并达到了与领先的闭源模型（包括 GPT-4 和 Claude-3.5-Sonnet)相当的性能。其在知识、数学、代码等领域的表现尤为优秀： 在 MMLU、MMLU-Pro 和 GPQA 等教育基准测试中，DeepSeek-V3 的表现优于所有其他开源模型 在所有非长链推理的开源和闭源模型中，DeepSeek-V3 在数学相关基准测试中取得了最先进的性能 在代码相关任务中，DeepSeek-V3 在 LiveCodeBench 等代码竞赛基准测试中成为表现最佳的模型 值得注意的是，DeepSeek V3的训练成本约为558万美元，远低于OpenAI GPT-4的训练成本。这一突破性成果证明了通过优化算法架构、训练框架和流水线设计，可以在保证模型性能的前提下，大幅降低训练成本。 而 DeepSeek R1 则进一步指明了一个摆脱有监督微调依赖，纯粹依靠强化学习，实现 AI 推理能力优化并自我成长的探索发展方向。在多个基准测试中，DeepSeek R1展现出卓越的推理能力，尤其在数学、代码和自然语言推理等任务上，与OpenAI的o1模型相媲美。 在LLM大模型普遍陷入算力和数据内卷当前局势下，DeepSeek 从算法和训练框架层面实现了创新突破并开源，无疑是人工智能领域的又一个重要转折点。 🌟【模型浅析】 常规大语言模型（LLM）的训练过程通常有三个阶段：预训练（Pretraining）、有监督微调（Supervised Fine-Tuning, SFT）、以及强化学习反馈优化（Reinforcement Learning Feedback, RLF，常见的是 Human-based），每个阶段都有不同的目标和方法。 而 DeepSeek 不仅是在每个阶段内部实现了大量优化，还颠覆了整个训练流程，为大模型发展指出了一些新的路线。 🌟【DeepSeek V3】 DeepSeek V3 基于 14.8T 数据进行预训练，涉及 6710 亿参数，其中激活参数 370 亿，模型性能与 GPT 4o- 0513 不相上下。 但由于其算法架构和训练框架等方面的设计，与 GPT 相比，及大幅度削减了训练成本。完整训练消耗 278.8w 个GPU小时，仅消耗约 557.6w 美元。 与 DeepSeek V2 一样，DeepSeek V3 在预训练阶段，依旧专注于 MoE（混合专家系统） + MLA（多维长程注意力） 架构： 🔸DeepSeekMoE 是一种混合专家（MoE）模型架构，旨在通过激活部分专家来提高训练效率。与传统 MoE 模型不同，DeepSeekMoE 使用更细粒度的专家，并将部分专家隔离为共享专家。 通过动态路由机制，模型能够根据输入的特征选择合适的专家进行处理，从而提高了模型的表达能力和训练效率。 🔸MLA 通过低秩近似方法，将注意力键（Key）和值（Value）进行压缩，减少了推理过程中的内存占用和计算量，从而提高了推理效率。 这种方法有效降低了模型的内存需求，使其在推理时更加高效。 除此之外，在 DeepSeek V3 中还新增了两项核心技术： 🔸无辅助损失的负载均衡策略 传统 MoE 系统需要额外训练"平衡器"来防止某些专家模块过载（类似交通调度员），但这会影响模型性能。而为了避免传统负载均衡策略对模型性能的负面影响，DeepSeek V3 设计了无辅助损失的负载均衡策略。 该策略通过动态调整专家的偏置项，确保每个专家的负载均衡，避免了辅助损失对模型性能的干扰。这种方法有效地提升了模型的训练效果和性能，就像给高速公路装上自动分流系统，既保证车流畅通又不增设收费站。 🔸多 Token 预测训练 传统模型像逐字填空，每次只预测下一个词。DeepSeek V3 设计了多 Token 预测训练的方式，即在训练过程中同时预测多个未来的 Token。这种方法能够提高模型在评估基准上的整体性能，增强了模型的预测能力和泛化能力。 为提升训练效率，DeepSeek 还设计了下述框架和流程： 🔸FP8 混合精度训练 为了实现更高效的模型训练，DeepSeek V3 引入了 FP8 混合精度训练框架，并首次在超大规模模型训练上验证了其可行性。 FP8 是一种使用 8 位浮点数表示的数值格式，相比传统的 32 位浮点数，精度有所降低，但占用空间更小，计算速度更快。能够显著提升了训练速度并减少了 GPU 内存的使用。 🔸DualPipe 流水线算法 DualPipe 算法是一种高效的流水线并行策略，旨在减少训练过程中的通信延迟和内存占用。通过算法、框架和硬件的协同设计，克服了跨节点 MoE 训练中的通信瓶颈，实现了近乎完全的计算-通信重叠。显著提高了训练效率并降低了训练成本，使得能够在不增加额外开销的情况下进一步扩大模型规模。 而基于预训练出来的基础模型，通过有监督微调（SFT）和强化学习（RL）使其与人类偏好对齐。并基于 DeepSeek-R1 系列模型对 DeepSeek V3 模型进行蒸馏提炼以进一步增强了推理能力。在蒸馏部分，DeepSeek 引入了一种创新的方法，能够将推理能力从长链思维 (CoT) 模型（特别是来自 DeepSeek R1 系列模型之一）提炼到标准大语言模型中（特别是 DeepSeek-V3）。 🌟【DeepSeek R1 Zero 和 强化学习策略】 DeepSeek-R1 是一种先进的推理模型，指明了不依赖SFT数据仅通过纯强化学习来让 LLM 自主发展推理能力的可行性。 DeepSeek R1 Zero 的目标是探索不依赖SFT数据仅通过纯强化学习来让 LLM 自主发展推理能力的可行性。 它利用了准确率奖励和格式奖励来鼓励模型进行有效的推理，并且避免了过程奖励（PRM）或结果奖励（ORM）。这不仅减少了训练数据的依赖，还开辟了不依赖SFT的推理训练的新路径。 这种纯 RL 训练方式让 R1 自己学会了 Longer-chain reasoning（长链推理）和 Reflection（反思），这是一种“自我进化”能力，被认为是大语言模型学会自我反思、可以自我纠错的 “aha moment（顿悟）”。 其下是 DeepSeek 在推理过程中产生 ”顿悟“ 的实例： 🌟【DeepSeek R1 和小模型蒸馏】 尽管 DeepSeek R1 Zero 在推理能力上表现出了不俗的性能，但是在语言表达和结果可读性上存在较大的不稳定性。 为了解决这部分问题，并进一步优化性能，DeepSeek-R1 使用了冷启动 + 多阶段训练的方式： 🔸阶段1⃣：使用少量高质量的 CoT 数据进行冷启动，预热模型。 🔸阶段2⃣：进行面向推理的强化学习，提升模型在推理任务上的性能。 🔸阶段3⃣：使用拒绝采样和监督微调，进一步提升模型的综合能力。 🔸阶段4⃣：再次进行强化学习，对推理数据和一般数据采用不同的奖励规则，使模型在所有场景下都表现良好 其中第一阶段使用冷启动数据的主要目的是为了解决 DeepSeek-R1-Zero 在训练早期出现的训练不稳定问题。 相比于直接在基础模型上进行 RL，使用少量的 SFT 数据进行冷启动，可以让模型更快地进入稳定训练阶段： 🔸可读性：冷启动数据使用更易于理解的格式，输出内容更适合人类阅读，避免了 DeepSeek-R1-Zero 输出的语言混合、格式混乱等问题。 🔸潜在性能：通过精心设计冷启动数据的模式，可以引导模型产生更好的推理能力。 🔸稳定训练：使用 SFT 数据作为起始点，可以避免 RL 训练早期阶段的不稳定问题。 另外，R1 在强化学习中加入了组相对策略优化算法（Group Relative Policy Optimization，GRPO），从效果上来说，它能够优化策略、提高样本效率和增强算法稳定性等。 而采用第三阶段产生的样本数据，可以对其他 LLM 小模型进行进行蒸馏，使其具备更强的逻辑推理能力，掌握更高阶的推理策略。下面是蒸馏出来的 6 个小模型以及相应的性能对比。 基于 DeepSeek R1 蒸馏出的小模型，都具备不错的性能。其中，Distill-Qwen-7B 模型在 AIME 2024 上达 55.5%，超越 32B 规模的 QwQ-Preview。而 Qwen-32B 和 Llama-70B 模型在除了 CodeForeces 以外的任务上都超过 o1-mini 。 未来DeepSeek还会发展到什么程度？叔拭目以待。

$GREED token, created by Dave Portnoy, embodies greed with high insider holdings and whale purchases. Tokenomics include 35% dev control, no supply locks, and significant whale buying activity. 🚀🚀Greed 24h内上涨+>99999%，现价$0.0069, 用GMGN更快发现，更快买卖！#Greed #GMGN…

Just claimed my 25% Yapper Discount & 5% Yapper Rebate for @soon_svm #COMMINGSOON NFT mint. I have participated in the new era of token distribution. Top Yapper on @_kaitoai? Claim up to 30% Yapper discount now at:

$HARRYBOLZ token linked to Elon Musk's gaming challenge, attracting smart money and creating buzz with multiple buy transactions. 🚀🚀HARRYBOLZ 24h内上涨+24.5K%，现价$0.0157, 用GMGN更快发现，更快买卖！#HARRYBOLZ #GMGN

🚨@QuaiNetwork 最近在 @_kaitoai 的影响力榜单上突破前20，正逐渐获得更多关注。对于刚接触 Quai 的朋友们，这里有一个简要的概述： 可扩展的 PoW：通过合并挖矿的层级结构，有效解决了区块链扩展性的问题。 代币介绍：$QUAI 完全兼容 EVM，$QI 是一种稳定且私密的能源美元，结合了稳定币与去中心化的特点。 创新共识机制：采用“最小熵证明”（PoEM）共识机制，能够支持每秒 50,000 次交易，极大提高了网络吞吐量。 🤜三难问题的解决：提供可扩展性、安全性和去中心化，解决了传统区块链面临的三大难题。 🚨 @QuaiNetwork has recently broken into the top 20 on @_kaitoai’s influence rankings, gaining increasing attention. For those new to Quai, here’s a quick overview: Scalable PoW: A hierarchical structure of merged-mined blockchains that effectively solves blockchain scalability issues. Token Overview: $QUAI is fully EVM-compatible, while $QI is a stable and private energy dollar that combines the benefits of stablecoins with decentralization. Innovative Consensus Mechanism: Quai uses the Proof-of-Entropy-Minima (PoEM) consensus, supporting 50,000+ transactions per second (TPS) and significantly increasing blockchain throughput. 🤜 Solving the Blockchain Trilemma: Quai delivers scalability, security, and decentralization, addressing the three major challenges of traditional blockchains.