关于ChatGPT的一点初步思考

发布时间:2023-01-29  栏目:AI应用领域, VideoConference, 人工智能, 元宇宙, 智能问答, 机器人, 深度学习, 自然语言处理  评论:0 Comments

深度学习应该是有很多瓶颈的,那么为啥ChatGPT可以是实现类似于质的飞跃?真的只是因为它有比较大的量和做了表面的优化(强化学习)这个吗?

 

个人初步感觉,words可能比图像输入有更强的condition和context信息,特别是如果融合前后3000字的问答背景的话。另外InstructGPT的论文中也提到了alignment的方法,也是有不错的泛化效果。

留下评论

You must be logged in to post a comment.

相册集

pix pix pix pix pix pix

关于自己

杨文龙,微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位,热爱创新发明,专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域,目前发明有国际专利19篇,中国专利28篇。

联系我

个人技术笔记

welonshen@gmail.com

2015 in Shanghai