首页 > 人工智能 >盐田人工智能,盐田人工智能盘古之手

盐田人工智能,盐田人工智能盘古之手

爱卡科技 2024-11-06 20:41:09 0

大家好,今天小编关注到一个比较有意思的话题,就是关于盐田人工智能的问题,于是小编就整理了1个相关介绍盐田人工智能的解答,让我们一起看看吧。

自然语言处理有预训练好的模型么?


非科班出身,自学撸出中文分词库HanLP,在GitHub标星1.5万,成为最受欢迎的自然语言处理项目。他将学习经验总结成书《自然语言处理入门》,帮助小白快速入门NLP。

针对题主的提问,HanLP自然语言处理类库的开发者何晗的经验很值得借鉴。

盐田人工智能,盐田人工智能盘古之手

截至 2019 年 11月初,HanLP项目在 GitHub Star 数达到了 15.6 K,超过了宾夕法尼亚大学的 NLTK、斯坦福大学的 CoreNLP。

贴上GitHub地址:https://github.com/hankcs/HanLP

何晗在开发这款 NLP 工具包时,还是上海外国语大学一名日语专业的大二学生,HanLP项目脱胎他大学时接的一份兼职,何晗也因缘从一个非科班专业的小白逐步成长为NLP领域的专家。如今,正在攻读CS博士的他(研究方向:句法分析、语义分析与问答系统),结合自己的学习历程和HanLP的开发经验创作出版了《自然语言处理入门》一书,得到了周明、刘群、王斌等业内顶级 NLP 专家的推荐。

从着手开发HanLP,到HanLP达到工业使用的水准,何晗对自学NLP有深刻的见解。如果用一句话来总结,那就是:自顶而下,从工程去切入,由应用层往下面的基础层拓展,递归补充理论知识,才能事半功倍。以下入门NLP的建议,皆来自于何晗的经验,分享给像题主这样的初学者,希望能对大家有所启发。

一、初学者,请避开自学NLP的常见误区
  • 有的初学者排斥基础理论——认为学校教的都是没用的,公司里都用不到;
  • 有的初学者对基础理论敬而远之——认为理论太高深了,自己基础不好,学了也白学;
  • 有的初学者,特别是已经工作的程序员,基本方向正确但学习路径错误,比较容易走极端:
    • 在工作很忙的情况下,只是抱着经典书籍苦啃,直到筋疲力尽项目也毫无进展,从而丧失了学习NLP的兴趣;
    • 或者,俗称调库小能手,跟风潮流,缺少理论基础,缺乏独立思考能力(比如,认为深度学习最牛,其他的基础理论都是垃圾;认为CNN/RNN/BERT会调参就行了)。

而实际上,自然语言处理是计算机科学、人工智能和语言学学科的交集,这三方面的学科知识都是需要储备的,基础理论的学习必不可少。但很多初学者都是在工作之后才入坑NLP,既难以静下心来啃书啃课,又缺少很好的老师传授知识经验。所以,有效可行的入门方式就是从工程切入,遵循这样的逻辑:延迟加载,只在使用的时候才去加载必要的资料:

  • 你首先看到的是一个摸得着的实际问题,为了解决该问题才去接触一个具体的方案;
  • 为了理解这个方案,才会引入必要的背景知识;
  • 为了实现这个方案,才会引入相关细节;
  • 为了克服这个方案的问题,才会过渡到新的方案。
二、想快速入门NLP,边学边做疗效好

何晗入门NLP,读过的经典书有:《统计自然语言处理》(宗成庆 著)(对应语言学知识)、《统计学习方法》(李航 著)(对应人工智能知识),《挑战程序设计竞赛》(秋叶拓哉、盐田阳一、北川宜稔 著)(对应计算机算法知识)。

不过,在看经典书籍的过程中,他发现,学习自然语言处理并不需要完全把这几本书看透,最好是可以边看书边做项目。这些书都是非常牛的好书,然而可惜的是,看完书中的章节,不知该如何应用其中的知识点,即使实现了文章中提到的模型,也很难直接将其运用于工程项目。

想必很多初学者都面临类似的学习困惑。为了解决这个问题,何晗动手写了《自然语言处理入门》,目的就是希望学习者看完一章后,便可以将知识点直接用于项目,适合NLP初学者入门并快速布置到生产环境中。成效快,痛苦小,疑问少。

何晗在《自然语言处理入门》一书中,以自己的HanLP开源项目为案例,代码对照公式讲解每一个算法每一个模型,让入门者带着工程思维理解NLP的知识要点,试图在目前市面上艰深晦涩的教科书和简单的入门书之间作出平衡。

《自然语言处理入门》带领学习者从基本概念入手。逐步介绍中文分词、词性标注、命名实体识别、信息抽取、文本聚类、文本分类、句法分析这几个热门问题的算法原理和工程实现。通过对多种算法的讲解和实现,比较各自的优缺点和适用场景。这些实现并非教学专用,而是生产级别的成熟代码,可以直接用于实际项目。

在理解这些热门问题的算法后,这本书会引导学习者根据自己的项目需求拓展新功能,最终达到理论和实践上的同步入门。

何晗认为,NLP的学习路径,应该尊重一般人的认知规律,而不是学术上的纲目顺序,以此为宗旨来编排图书的内容。因此,面向普通程序员,这本书内容分为以下三大部分:

第一部分介绍一些字符串算法,让普通程序员从算法的角度思考中文信息处理。

第二部分由易到难地讲解一些常用的机器学习模型,让算法工程师晋级为机器学习工程师。由中文分词贯穿始终,构成一种探索式的递进学习。这些模型也并非局限于中文分词,会在第三部分应用到更多的自然语言处理问题上去。

第三部分新增了许多与文本处理紧密相关的算法,让机器学习工程师进化到自然语言处理工程师。特别地,最后一章介绍了当前流行的深度学习方法,起到扩展视野、承上启下的作用。学习者可根据自身情况,灵活跳过部分章节。

何晗在自学过程中走过不少弯路,深知数学语言的艰深晦涩,并且痛恨罗列公式故作高深的文章,所以他在书中只保留了必不可少的公式和推导,并且公式与代码相互印证。配套代码由Java和Python双语言写成,与GitHub上最新代码同步更新,所以你只要具备基本的编程经验,就可以跟随书本零起点入门。

此外,何晗还总结出一份最为详尽的NLP+ML“双生树”思维导图,导图中的关联知识点不仅涵盖NLP领域的核心知识,甚至涉及许多前沿研究和应用,印刷尺寸宽60cm,高74cm,随书附赠供学习者参考。

三、进阶NLP的学习资料和工具推荐
  • 推荐读这些经典书籍:
  • 多读论文,推荐用Google Scholar和Papers检索:
  • 克服语言障碍,推荐用欧路词典:
  • 追踪前沿动态,推荐NLP-progress,在各项NLP任务上的排行榜

网址:https://nlpprogress.com/

  • 一个中肯的建议:NLP没有通用的解法,算法不够,语料来补
  1. 算法不是万能的。(想想:一两个百分点对实际业务有多少帮助,又增加了多少成本?)
  2. 不要完全相信论文。(a. 不要相信不公开源代码的论文; b. 不要相信公开源代码但数据预处理作假的论文; c. 即使能跑出作者宣称的分数,请考虑:模型是否能泛化到你的行业领域? 又增加了多少成本?)
  3. 语料极其重要。(a. 语料几乎可以把准确率提升到你期望的任何水准,只要数量质量足够; b. 目前通用语料几乎都是新闻,谁能标注出行业语料,谁就是大王; c. 深度学习时代,无标注的纯文本语料也大有用场; d. 软件工程2.0:用数据编程。)

目前,最知名的预训练模型之一是由OpenAI开发的GPT(Generative Pre-trained Transformer)系列模型。其中,GPT-3是最先进的版本,具有1750亿个参数。这种模型通过在海量互联网文本上进行预训练,可以执行多种自然语言处理任务,如文本生成、文本分类、命名实体识别等。

此外,还有其他机构和公司也发布了自然语言处理的预训练模型,如BERT、RoBERTa、ALBERT等。这些模型在各种语言处理任务上表现出色,被广泛应用于自然语言处理的研究和应用中。

这些预训练模型的优点是可以提供大量的语言知识和语义理解能力,使得使用者可以从中受益,并能够快速应用于各种具体任务。但需要注意的是,这些模型需要在具体任务上进行微调,以适应特定的数据和任务要求。

谢谢邀请,有的,在一本书中看到过《python3破冰人工智能 从入门到实战》

在第八章中,不过本书没有电子版的,只能网购纸质版的

第8章 自然语言处理
8.1 Jieba分词基础
8.1.1 Jieba中文分词
8.1.2 Jieba分词的3种模式
8.1.3 标注词性与添加定义词
8.2 关键词提取
8.2.1 TF-IDF关键词提取
8.2.2 TextRank关键词提取
8.3 word2vec介绍
8.3.1 word2vec基础原理简介
8.3.2 word2vec训练模型
8.3.3 基于gensim的word2vec实战

其他章节如下:

第 1章 从数学建模到人工智能

1.1 数学建模1.1.1 数学建模与人工智能1.1.2 数学建模中的常见问题1.2 人工智能下的数学1.2.1 统计量1.2.2 矩阵概念及运算1.2.3 概率论与数理统计1.2.4 高等数学——导数、微分、不定积分、定积分
第2章 Python快速入门
2.1 安装Python2.1.1 Python安装步骤2.1.2 IDE的选择2.2 Python基本操作2.2.1 第 一个小程序2.2.2 注释与格式化输出2.2.3 列表、元组、字典2.2.4 条件语句与循环语句2.2.5 break、continue、pass2.3 Python高级操作2.3.1 lambda2.3.2 map2.3.3 filter
第3章 Python科学计算库NumPy
3.1 NumPy简介与安装3.1.1 NumPy简介3.1.2 NumPy安装3.2 基本操作3.2.1 初识NumPy3.2.2 NumPy数组类型3.2.3 NumPy创建数组3.2.4 索引与切片3.2.5 矩阵合并与分割3.2.6 矩阵运算与线性代数3.2.7 NumPy的广播机制3.2.8 NumPy统计函数3.2.9 NumPy排序、搜索3.2.10 NumPy数据的保存
第4章 常用科学计算模块快速入门
4.1 Pandas科学计算库4.1.1 初识Pandas4.1.2 Pandas基本操作4.2 Matplotlib可视化图库4.2.1 初识Matplotlib4.2.2 Matplotlib基本操作4.2.3 Matplotlib绘图案例4.3 SciPy科学计算库4.3.1 初识SciPy4.3.2 SciPy基本操作4.3.3 SciPy图像处理案例第5章 Python网络爬虫5.1 爬虫基础5.1.1 初识爬虫5.1.2 网络爬虫的算法5.2 爬虫入门实战5.2.1 调用API5.2.2 爬虫实战5.3 爬虫进阶—高效率爬虫5.3.1 多进程5.3.2 多线程5.3.3 协程5.3.4 小结
第6章 Python数据存储
6.1 关系型数据库MySQL6.1.1 初识MySQL6.1.2 Python操作MySQL6.2 NoSQL之MongoDB6.2.1 初识NoSQL6.2.2 Python操作MongoDB6.3 本章小结6.3.1 数据库基本理论6.3.2 数据库结合6.3.3 结束语
第7章 Python数据分析
7.1 数据获取7.1.1 从键盘获取数据7.1.2 文件的读取与写入7.1.3 Pandas读写操作7.2 数据分析案例7.2.1 普查数据统计分析案例7.2.2 小结
第8章 自然语言处理
8.1 Jieba分词基础8.1.1 Jieba中文分词8.1.2 Jieba分词的3种模式8.1.3 标注词性与添加定义词8.2 关键词提取8.2.1 TF-IDF关键词提取8.2.2 TextRank关键词提取8.3 word2vec介绍8.3.1 word2vec基础原理简介8.3.2 word2vec训练模型8.3.3 基于gensim的word2vec实战
第9章 从回归分析到算法基础
9.1 回归分析简介9.1.1 “回归”一词的来源9.1.2 回归与相关9.1.3 回归模型的划分与应用9.2 线性回归分析实战9.2.1 线性回归的建立与求解9.2.2 Python求解回归模型案例9.2.3 检验、预测与控制
第10章 从K-Means聚类看算法调参
10.1 K-Means基本概述10.1.1 K-Means简介10.1.2 目标函数10.1.3 算法流程10.1.4 算法优缺点分析10.2 K-Means实战
第11章 从决策树看算法升级
11.1 决策树基本简介11.2 经典算法介绍11.2.1 信息熵11.2.2 信息增益11.2.3 信息增益率11.2.4 基尼系数11.2.5 小结11.3 决策树实战11.3.1 决策树回归11.3.2 决策树的分类
第12章 从朴素贝叶斯看算法多变 193
12.1 朴素贝叶斯简介12.1.1 认识朴素贝叶斯12.1.2 朴素贝叶斯分类的工作过程12.1.3 朴素贝叶斯算法的优缺点12.2 3种朴素贝叶斯实战
第13章 从推荐系统看算法场景
13.1 推荐系统简介13.1.1 推荐系统的发展13.1.2 协同过滤13.2 基于文本的推荐13.2.1 标签与知识图谱推荐案例13.2.2 小结
第14章 从TensorFlow开启深度学习之旅
14.1 初识TensorFlow14.1.1 什么是TensorFlow14.1.2 安装TensorFlow14.1.3 TensorFlow基本概念与原理14.2 TensorFlow数据结构14.2.1 阶14.2.2 形状14.2.3 数据类型14.3 生成数据十二法14.3.1 生成Tensor14.3.2 生成序列14.3.3 生成随机数14.4 TensorFlow实战

希望对你有帮助!!!

到此,以上就是小编对于盐田人工智能的问题就介绍到这了,希望介绍关于盐田人工智能的1点解答对大家有用。