首页 > 其他分享 >AI大模型入门指南:从基础到实践的系统学习路径

AI大模型入门指南:从基础到实践的系统学习路径

时间:2024-09-04 17:55:48浏览次数:16  
标签:指南 6B 入门 AI 模型 LangChain only 向量

如何系统的入门大模型?

本篇文章默认面向对大模型领域感兴趣的程序员。
看一下围绕大模型的应用场景和人才需求:img
**Prompt工程:**基于提示词对大模型的使用,会问问题就行。
**基于大模型的应用:在大模型生态之上做业务层产品。AI主播、AINPC、AI小助手。。。之前是会调API就行。现在有了GPTs,连调用API都可以不用了,动动嘴就可以实现应用生成。
img
私有知识库:给大模型配个“资料袋”
——**大模型外挂向量数据库/知识图谱
**AI Agent:**给大模型“大脑”装上记忆体、手和脚,让它可以作为智能体进行决策和工作。
**微调大模型:**基于基座大模型的Fine Tuning。
**训练大模型:**大模型训练,高端赛道的角逐。
因此普通程序员研究大模型,不妨选择从外到内的思路,从套壳应用,再了解部署、微调和训练。

前导篇

Python
Python:AI领域最常用的编程语言。要学会基础语法、数据结构等。Python不难,对于一般程序员来说很容易上手。

向量数据库
随着AI的发展进入新的时代,知识的存储和表示就和向量分不开了。向量这个数学表达,在目前是人与AI交互的中间媒介。 向量数据库是一种特殊的数据库,它以多维向量的形式保存信息。让大模型拥有“记忆”,就需要用到向量数据库。

常见的向量数据库包括:Chroma、ES、FAISS、Milvus等,需要了解和会用。

实战篇

LangChain

要将大语言模型的能力开发成产品,就需要LangChain帮忙了。LangChain 是一个 LLM 编程框架,它提供了一套工具、组件和接口,借助LangChain,我们可以更加便利地给大模型这个“大脑”装上记忆和四肢,更轻松地完成基于大模型的应用开发。
比如带有私有知识库的办公助手等AI Agent,都可以借助LangChain来完成。
img
LangChain主要支持6种组件:

Models:模型,各种类型的模型和模型集成

Prompts:提示,包括提示管理、提示优化和提示序列化

Memory:记忆,用来保存和模型交互时的上下文状态

Indexes:索引,用来结构化文档,以便和模型交互

Chains:链,一系列对各种组件的调用

Agents:代理,决定模型采取哪些行动,执行并且观察流程,直到完成为止

github:https://http://github.com/hwchase17/langchain

官方文档:Quickstart | ️ Langchain
如果你是Java程序员,这里有Java版:

https://http://github.com/langchain4j

在本地搭建部署开源模型

从零入门大模型技术,其实还是有点门槛的,硬件资源就是一关。但还是有办法的。
建议选择清华ChatGLM2-6B开源大模型进行本地部署。ChatGLM2-6B 是 ChatGLM-6B 的第二代版本,62亿的参数量的开源中英双语对话模型。

ChatGLM2-6B在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上,具有更强大的性能、支持更长的上下文、更强的推理能力的特点,是Poor流选手的福音。
各种尺寸的模型需要消耗的资源:img项目地址:GitHub - THUDM/ChatGLM2-6B: ChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型
HuggingFace:

https://http://huggingface.co/THUDM/chatglm2-6b
提高篇
机器学习基础
了解分类算法、回归算法、聚类算法、降维算法等经典的机器学习算法;
模型评估:交叉验证、偏差和方差、过拟合和欠拟合、性能指标(准确率、召回率、F1分数等)。

深度学习基础
掌握CNN,RNN等经典网络模型,然后就是绕不开的Transformer。

Transformer是一个引入了 Self-attention 机制的模型,它是大语言模型的基石,支撑着庞大的大语言模型家族。
img
在代码层面,必须掌握的就是神经网络的框架,主流框架有tenorflow,Pytorch等。
NLP 基础知识

NLP、NLU、NLG的差别;

自然语言处理中的基本任务和相关的应用;

TF-IDF、word2vec、BERT等基本算法和技术;

预训练语言模型:模型的输入、模型的结构、训练的任务、模型的输出;

可以直接从word2vec开始了解,然后到transformer,bert。

了解LLM的3个分支和发展史

根据使用的 Transformer 的方式不同,有3种常见的主流架构:encoder-only,encoder-decoder和decoder-only。

这张图清晰地展示了LLM的3个分支:
imgencoder-only:BERT

encoder-decoder:T5, GLM-130B, UL2

decoder-only:GPT系列, LLaMA, OPT, PaLM,BLOOM

了解典型 Decoder-only 语言模型的基础结构和简单原理

深入篇

掌握 Continue Pre-train、Fine-tuning 已有开源模型的能力;
掌握 Lora、QLora 等最小化资源进行高效模型训练的PEFT技术;
掌握强化学习基础;
Alignment与RLHF;
数据处理技术;
压缩模型、推理加速技术;
分布式训练并行技术;
分布式网络通信技术
生产环境部署大模型的相关技术。

很多人说,大模型赛道不是普通人能玩的。狭义的大模型赛道,是这样,更多的是看运气。但是大模型之上的生态,目前来看是广阔的蓝海。退一万步讲,就是为了提高工作效率自己先用起来,也是个很好的加持。所以积极了解大模型,入股不亏。

标签:指南,6B,入门,AI,模型,LangChain,only,向量
From: https://blog.csdn.net/DAMOXINGHAITAI/article/details/141892269

相关文章

  • 深入探索AI大模型:技术原理、应用场景与未来趋势解析
    随着人工智能技术的迅猛发展,AI大模型一直被视为推动人工智能领域提升的关键因素,大模型已成为了引领技术浪潮研究和应用方向。大模型是指具有庞大规模和复杂结构的人工智能模型,它们具有数以亿计的参数和深层次的神经网络架构。这些模型通过学习海量数据和深度神经网络的优化,......
  • 视频汇聚平台LntonAIServer视频质量诊断功能--偏色检测与噪声检测
    随着视频监控技术的不断进步,视频质量成为了决定监控系统性能的关键因素之一。LntonAIServer新增的视频质量诊断功能,特别是偏色检测和噪声检测,进一步强化了视频监控系统的可靠性和实用性。下面我们将详细介绍这两项功能的技术细节、应用场景及优势。一、偏色检测偏色检测旨在识别视......
  • ‌AI带货直播插件:功能与实现‌!
    随着人工智能技术的飞速发展,AI带货直播插件已成为电商领域的新宠,这类插件通过集成先进的人工智能技术,不仅提升了直播的效率和互动性,还大大增强了用户体验和转化率,本文将详细介绍AI带货直播插件的主要功能,并分享七段关键源代码。一、AI带货直播插件的主要功能1、自动播放与内容生成(......
  • 一文教会你如何用好通义灵码,让这款 AI 编码工具帮你做更多工作,更高效
    通义灵码,是阿里云与通义实验室联合打造的智能编码辅助工具,提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力,提供代码智能生成、研发智能问答能力。国际市场研究机构Gartner发布业界首个AI代码助手魔......
  • 2024年住宅代理市场概况:趋势与选择指南
    在数字化时代,网络安全和数据保护越来越受到重视。尤其在网络环境中,真实的IP地址成为保护个人信息安全和数据安全的重要抓手。住宅代理作为一种有效的解决方案,在这个领域扮演了关键角色。本文将探讨2024年住宅代理市场的概况,分析当前的趋势,并提供选择指南,帮助用户做出明智的决策......
  • 一文教会你如何用好通义灵码,让这款 AI 编码工具帮你做更多工作,更高效
    通义灵码,是阿里云与通义实验室联合打造的智能编码辅助工具,提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力,提供代码智能生成、研发智能问答能力。国际市场研究机构Gartner发布业界首个AI代码助手魔......
  • SWEN30006_2024_SM2 Specification for Automail
    Project 1: SpecificationforAutomail: Software Modellingand Design (SWEN30006_2024_SM2)Project 1:Specificationfor AutomailBackground:AutomailDeliveringSolutionsInc. (DS) has recentlydevelopedand provideda Robotic Mail Deliverysyst......
  • 如何使用mediainfo.js来获取视频信息
    如何使用mediainfo.js来获取视频信息安装首先是安装改插件,这里GitHub中有很多介绍,这里介绍常用的node引入和CDN引入Node.js在npm上安装mediainfo.js$npminstall-gmediainfo.js后在需要的文件中importMediaInfofrom"mediainfo.js";这样输出MediaInfo发现是如下方法......
  • 自我认知及软件工程学习指南
    目前我已经具备的专业知识:数据库、数据挖掘、机器学习、c、python、matlab等,会使用pytorch、tensorflow基础功能,了解深度学习的基础算法。会使用神经网络、森林灭火等数学建模常用算法我感兴趣的技术方向:联邦学习、大数据架构、跨学科领域交叉数据融合分析、大数据治理等我缺少......
  • 一文教会你如何用好通义灵码,让这款 AI 编码工具帮你做更多工作,更高效
    通义灵码,是阿里云与通义实验室联合打造的智能编码辅助工具,提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力,提供代码智能生成、研发智能问答能力。国际市场研究机构Gartner发布业界首个AI代码助手......