登录社区云,与社区用户共同成长
邀请您加入社区
LangChain是一个专门为利用语言模型创建应用程序而设计的全面框架。它的主要目标是帮助开发人员轻松构建基于语言模型的应用。虽然LangChain与多种语言模型兼容,但它特别与OpenAI ChatGPT无缝集成,从中受益于其先进功能。本文学习知识点: 语言模型(LLMs)和LangChain。提示工程。语言模型的内存。语言模型的链式结构。LangChain索引。工具和代理。
国内接入DeepSeek的厂商应该已经达到了几十家。DeepSeek已经不算是模型了,而是类似安卓、IOS,一个全新的生态。当然官网的DeepSeek还是 “服务器繁忙,请稍后再试。” 的状态,早上发现飞书多维表已经接入了DeepSeek,这意味着大家可以实现多维表格实现AI批量处理——!
轻易不要装CUDA12.4,对于很多python库来说大部分版本只支持到CUDA11.8。当pip install失效时,尝试拉github源码编译,参考github ReadMe。-v:启用详细输出(verbose),显示安装过程中的详细信息。-U:升级包到最新版本(如果已安装)。git+xxx:指定从 Git 仓库安装包,xxx 是 Git 仓库的 URL。遇到报错使用deepseek + G
deepseek论文解读:近年来,大型语言模型(LLMs)在推理任务上的表现持续提升,但传统方法通常依赖监督微调(Supervised Fine-Tuning, SFT)和大规模标注数据。系列模型通过纯强化学习(Reinforcement Learning, RL)和多阶段训练,探索了一种无需监督数据即可提升推理能力的新范式。:首个通过纯强化学习(无需SFT)训练的模型,展示了RL在推理任务中的潜
用 pytorch 从零开始创建大语言模型(五):预训练无标注数据
在使用Deepseek API处理FPGA相关技术问题时,参数设置的合理性直接影响输出结果的。若需针对具体开发阶段(如验证、功耗分析)进一步优化参数,欢迎提供详细场景!通过合理配置API参数,可显著提升FPGA开发中。
化身现实顶级投资大师,精准剖析商业行为与模式,从投资理念到风险收益,提供专业、风格逼真的决策建议。在开发基于 DeepSeek + 文心智能体平台、模仿顶级投资大师的智能体过程中,我充分感受到 DeepSeek 模型强大算力和分析能力带来的震撼。它如同神奇画笔,将海量投资数据和大师理念绘制成生动准确的投资分析画卷。文心智能体平台则提供便捷高效创作空间,让开发过程顺畅无阻。通过这次开发,我不仅实现为
首先,你需要掌握一些基础知识,如机器学习、深度学习、神经网络等。可以通过在线课程、书籍、研讨会等方式进行学习。例如,你可以学习TensorFlow、PyTorch等深度学习框架。:理论知识学习后,通过实际操作来加深理解。你可以尝试自己实现一些简单的模型,或者在Kaggle等平台上参加数据科学竞赛,通过实际项目来提升自己的技能。:了解大模型领域的最新研究动态和应用场景。关注顶级会议(如NIPS、IC
目前给朋友推荐的Cherry Studio,自己在用AnythingLLM和Cherry Studio,感觉两个的知识库都不是很友好。,适合中小规模私有化部署。实际选型需结合数据复杂度、开发资源与业务目标综合考量。搭建本地知识库,询问deepseek,并记录。,适合专业领域的高精度需求;,适合技术团队快速迭代;
LangChain4j 是一个用于构建和操作语言模型(LLM)应用的 Java 框架,而 Spring Boot 3 是 Java 生态中最流行的框架之一。本文将带你从零开始,结合 LangChain4j 和 Spring Boot 3,构建一个智能问答系统。我们将涵盖从环境搭建到实际开发的完整流程,帮助你快速上手 LangChain4j 并集成到 Spring Boot 项目中。上一篇文章分享了
知识需要不断的积累,才能有机会厚积薄发,肚子里面没有干货那是真的不行的,我们一起了解一下AI领域里的Langchain 和 RAG,它们到底是什么呢?
需要更新GPU 驱动程序,以便与 PyTorch 的版本匹配,或更新PyTorch 的版本,以便与 GPU 驱动程序匹配。找到下载的14个G的那个visualglm-6b.zip,然后unzip,然后解压的文件里面有个model_config.json文件,里面。可能依赖的transformers模块版本不匹配,导致了tokenizer对象的属性不一致。在当前的 PyTorch 版本中,由于我们所
简单来说,Realtime API 是 OpenAI 刚推出的一个强大工具,能够实时处理语音和文本,特别适用于即时语音交互和与外部数据源的连接。不同于传统的语音处理方法,Realtime API 显著降低了延迟,让语音交互更加自然和流畅。通过一个 API 调用即可实现语音输入、输出、处理的全流程,开发者无需复杂的拼接,显著简化了开发过程。
从 2022 年的 OpenAI 的ChatGPT3.5发布,AI 技术迅速火遍全宇宙。全人类开始都在讨论 AI 技术的未来和人类自己的未来。比如“AI 是否能够替代人类”、“AI 究竟是什么?”、“AI是否能增加每个人的失业风险”、“安全与隐私问题如何平衡”、“AI 是否会导致社会的不平等问题加剧?”等等的话题。2023 年是可以说是 AI 技术的发展元年。很多有能力的公司都在做自己的LLM文心
用Python和Ollama的Llama 3.2-Vision模型搭建自己的OCR应用。光学字符识别技术,简称OCR,目前是数字化印刷文本和提取图像信息的核心手段,其重要性正日益凸显。如今,有了AI的加持,尤其是像Llama 3.2-Vision这样的模型,OCR变得更加强大。本文教会大家用Python和Ollama的Llama 3.2-Vision模型,一步步搭建起自己的OCR应用。在开始之前,
如果你真心想要入门大型语言模型(LLM),只看这一个文章应该是可以入门的。但是修行下去,还是要靠自己的了!如果你把大语言模型/LLM 当成一门技术来看,那就要看一下这门技术需要什么。基本要求:开发语言:Python , C/C++开发框架和工具库: Numpy /Pytorch /Tensorflow /Keras /Onnx数学知识:线性代数、高数、概率、凸优化这些东西我们假定你都已经会了,或者
Amazon Bedrock Agent 是亚马逊云科技推出的一项生成式AI功能,它利用生成式AI(Generative AI)帮助开发者构建能够跨多个系统和数据源执行任务的智能应用程序。通过 Amazon Bedrock,开发者可以轻松地接入预训练的大模型,并通过 Agents 赋能应用程序,实现更复杂的任务自动化。Bedrock Agents 的一个核心特点是其高度灵活性和可扩展性,能够根据开
OpenAI引领风潮的大语言模型(以下称为LLM)出世,给行业带来无比震撼,公众号、朋友圈、新闻与短视频App里,无不充斥着哪一家AI公司又放出效能更强大的模型之类的信息,文字生成、图像生成、音频生成、视频生成等的效果有多么令人惊叹。但LLM的行业应用、业务场景、怎么落地、如何将LLM技术融入系统之中,却一直处在被高度讨论,但多数人又摸不着门道的尴尬情况。
所有的项目都是基于 TailwindCSS 实现了响应式,同时支持网页端和移动端的显示效果。这期尝试开发的 AI 应用是使用通义千问的大模型 API,开发一个 AI 看舌苔的应用。整个项目的操作流程比较简单,第一屏用户上传自己的舌头的照片, 保存到 OSS 中。然后将 OSS 保存的图片发送给通义千问的大模型(这里采用了 qwen-vl + qwen-max 两个大模型),让大模型生成我们的前端
KG-RAG 框架:一个使用医学知识图谱检索增强 LLM 的框架
我们如何在本地安全地运行私有的LLMs呢?开源模型为此提供了可能的解决方案。本文将介绍七种方法。这是一个Python库,可以简化本地运行LLM的过程。特点:Llama.cpp是一个基于C++的推理引擎,专门为Apple Silicon优化,可以运行Meta的Llama2模型。它针对GPU和CPU都做了推理优化。优点:性能高于基于Python的解决方案,支持在适度的硬件上运行大型模型,如Llama
很多人,包括很多粉丝的科技博主,经常把ChatGPT和预训练大模型混为一谈,因此有必要先做一个澄清。预训练大语言模型属于预训练大模型的一类,而ChatGPT、文心一言又是预训练大语言模型的一个具体应用(如下图所示)。而我们今天讨论的主要是预训练大语言模型的应用,也就是我们能看得见摸得着的东西。\1. 大名鼎鼎的ChatGPT。OpenAI于2022年11月30日发布了ChatGPT,背后是微软(主
微软开源 GraphRAG 后,热度越来越高,目前 GraphRAG 只支持 OpenAI 的闭源大模型,导致部署后使用范围大大受限,本文通过 GraphRAG 源码的修改,来支持更广泛的 Embedding 模型和开源大模型,从而使得 GraphRAG 的更容易上手使用。需要 Python 3.10-3.12 环境。安装完整后,需要创建一个文件夹,用来存储你的知识数据,目前 GraphRAG 只
目标:了解大模型的基本概念和背景。内容:人工智能演进与大模型兴起。大模型定义及通用人工智能定义。GPT模型的发展历程。目标:深入学习大模型的关键技术和工作原理。内容:算法的创新、计算能力的提升。数据的可用性与规模性、软件与工具的进步。生成式模型与大语言模型。Transformer架构解析。预训练、SFT、RLHF。目标:掌握大模型开发所需的编程基础和工具。内容:Python编程基础。Python常
不到两百行代码教你实现一个完整的RAG系统(案例+源码)
5 月 14 日,腾讯宣布旗下混元文生图大模型全面升级并全面开源,目前已在 Hugging Face 平台及 GitHub 上发布,包含模型权重、推理代码、模型算法等完整模型,可供企业与个人开发者免费商用。据了解,这是,支持中英文双语输入及理解,参数量 15 亿。升级后的混元文生图大模型采用了与 Sora 一致的 DiT 架构,即,不仅可以支持文生图,也可以作为视频等多模态视觉生成的基础。
2024年11月20日,DeepSeek全新研发的推理模型 DeepSeek-R1-Lite 预览版正式上线。可登录官方网页 (chat.deepseek.com),开启与 R1-Lite 的对话体验。该模型采用强化学习训练,推理过程包含大量反思和验证,思维链长度可达数万字。该系列模型在数学、代码以及各种复杂逻辑推理任务上,取得了媲美 o1-preview 的推理效果,
通过上述步骤,我们成功地基于Spring-AI框架实现了RAG增强检索。这种方法结合了文档检索和文本生成,能够提供更加丰富和准确的回复。希望本文能够帮助开发者更好地理解和应用Spring-AI框架,开发出更加智能的应用程序。
Sentence Window Retrieval 是一种检索策略,用于检索与查询相关的文本。它首先检索最相关的句子,然后返回围绕该句子的更广泛的文本,以便为 LLM 提供更广泛的上下文来支撑其响应。
多款人工智能大模型近日扎堆上市。OpenAI发布最新多模态人工智能大模型GPT—4o;谷歌发布“人工智能全家桶”,包括对标GPT—4o的全能人工智能助手Project Astra和对标Sora的文生视频模型Veo等。5月15日,字节跳动也发布豆包大模型,并将价格拉至行业新低。不仅是字节跳动,连日来,OpenAI、阿里云等企业纷纷下调大模型价格。其中,豆包主力模型的推理输入价格只有0.0008元/千
紧跟技术发展趋势,快速了解大模型最新动态。今天继续总结最近一周的研究动态,本片文章共计梳理了10篇有关大模型(LLMs)的最新研究进展,其中主要包括:构建工作流实现大模型在游戏博弈中的应用、任务推理优化、大模型多任务实现图像中的应用、系统能力提升应、大模型在等等热门研究。
知识问答助手已经成为企业在探索大模型应用时的首选场景之一,基于大模型的知识问答助手不仅能够自动整合企业内外部的海量信息,构建全面、精准的知识图谱,还能够通过自然语言查询,实现一键触达精准答案。大模型存在幻觉问题、可解释性差、隐私和安全问题等明显缺点,为了提高知识问答的准确率,一种基于“大模型+RAG(检索增强生成)”架构的方式正在形成。RAG的本质是在大模型交互之前提前进行搜索,召回正确的上下文给
背景信息一般聚焦于讲述我们自己要完成的任务,任务的前提缘由、目标或面临的问题,以及自身的情况等。角色设定指令是ChatGPT官方支持的能力,起到“调度”行业专家模型的作用,通过身份来约束ChatGPT的回答领域范围,一定程度上能让回答更有针对性。派任务(T):简单介绍任务的主题、概要和预期,明确ChatGPT的任务方向;BRTR原则由四个要素组成:背景(B)、角色(R)、任务(T)、要求(R)。任
本文根据deepseek官网接口文档学习补全api的调用,传入参数比较多,该文档中给出了详细的解释,以下代码在官网代码的基础上有所修改,返回结果内容很多,通过AI了解了各个参数的内容,记录在此,供大家一同学习参考。
针对大型语言模型效果不好的问题,之前人们主要关注大模型再训练、大模型微调、大模型的Prompt增强,但对于专有、快速更新的数据却并没有较好的解决方法,为此检索增强生成(RAG)的出现,弥合了LLM常识和专有数据之间的差距。
Fitten Code-大模型驱动的AI代码助手Fitten Code是由非十大模型驱动的AI编程助手,它可以自动生成代码,提升开发效率,协助调试Bug,节省时间。还可以对话聊天,解决编程碰到的问题。免费且支持80多种语言:Python、C++、Javascript、Typescript、Java等。Fitten Code 支持 Visual Studio Code和JetBrains系列IDE,
网页版不够用?手把手教你打造定制化DeepSeek知识库
在2024年的亚马逊云科技re:Invent大会上提前预告发布的Stable Diffusion 3.5 Large,现在已经在Amazon Bedrock上线了!各位开发者们现在可以使用该模型,根据文本提示词文生图生成高质量的图片,并且支持多种图片风格生成,助力媒体、游戏、广告和零售等行业的开发者们加速概念艺术、视觉特效以及精修产品宣传图的生成创作。
清华大学新闻与传播学院-新媒体研究中心-元宇宙文化实验室出了一版巨详细的PPT版本DeepSeek使用手册,目录虽只有三个板块,但是对于咱们学术生活中能运用到的,都有精细的讲解,所涉及的内容就足足有104页!真的是干货满满,让人看了超忍不住的心动!研究生学者们要是还在纠结科研无方向、论文无从下手,那么这份资料真的将会是你打破迷茫的第一步!!文档一共104页,全都是提炼过后的精华内容。无论你是刚接触