新闻动态
NEWS
当ChatGPT遇到知识图谱之时，再谈产业智能化应用
作为一款现象级AI应用，ChatGPT几个月来热度不减，吸引越来越多的人去尝试、探索。同时，人们对ChatGPT的关注点也趋于多元化，不少人从最初的兴奋和好奇转向深层思考。各国开始关注ChatGPT的潜在风险，比如，它对人类社会的潜在影响，如何构建新的治理机制来扬长避短让ChatGPT更好地服务人类？考虑到这些风险不仅影响到个体，还有可能波及整个社会，值得我们提前关注。
警惕AI作恶
当人们惊叹于ChatGPT出色的逻辑回答甚至创作能力时，也有不少有识之士开始关注ChatGPT的“可怕”。
作为一位长期扎根于人工智能行业的资深人士和技术专家，刘激扬对此有着自己的观察。他认为，ChatGPT这类技术看起来能解决一些代码问题，回答一些数学问题，帮助人提炼文章的主题含义。但是，这种技术如果开放给大众之后，也有一些问题值得注意，比如对教育行业的冲击。
他解释说，在教育领域，学生解题其实是对学生知识储备的提升和思维能力的训练。做题本身不是目的，不是说这道题ChatGPT给了你答案，就解放了你的生产力。相反，过度依赖，其实是本末倒置，失去了让人发展智力的机会。
“这个意义上来讲，对于AI的应用，怎么算是把人从繁琐的工作中解放出来，怎么算是让人产生依赖失去锻炼自身能力，变得更笨，让一部分人更依赖另一部分人，值得探讨。”他说。
类似的还有推荐系统，人工智能算法会持续推送人感兴趣的东西，但是不会给人更全面的认知，长期下去就可能会产生信息茧房等负面效应，让人失去全面思考的判断力。
ChatGPT的另一个问题是被它的错误内容影响。ChatGPT的内容来自互联网，由于内容太过庞杂，要对这些内容一一进行甄别和清洗也不现实，这就导致ChatGPT可能输出一些错误内容。如果面对它的是一些未成年人，其自身辨识能力不足，有可能会带来不好的后果，特别是一些大是大非的问题会影响他们的成长，比如种族、性别歧视等。
“从人类的技术演进来看，每一项重大新技术产生后，都需要人们更多的知识和努力去应用好它，防止不受控的状态。而且，技术越复杂，潜在的破坏性越大时，对于人的要求越高，越需要负责任的企业和组织理解技术本质，持续投入对技术应用场景及安全可控方面的研究和落地，对社会负责。”刘激扬说。
好在ChatGPT可能带来的不利影响已经得到OpenAI公司和不少组织及国家的关注，相关立法正在讨论之中。目前，ChatGPT已经引起欧盟关于人工智能立法的讨论，预计在3月初，欧盟有望就2021年提出的《人工智能法案》达成一致。OpenAI公司也表示将对ChatGPT进行升级，以减少偏见和不良行为。
在我国，人工智能领域的监管立法已有初步尝试。比如，《互联网信息服务算法推荐管理规定》已于去年3月开始实施。在地方，2022年9月，深圳、上海先后发布了《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》。
只是目前这些法律、法规还都是一些框架性要求，相关规定怎样去落实，还有很多问题需要解决。比如，人工智能应用在输出虚假信息造成一定法律后果之后，平台、使用者、模型训练者各自应该如何承担责任，并没有明确规定。
刘激扬表示，在重大技术产业落地的同时，都会形成与此匹配的生产组织形式，也就是通常所说的生产力决定生产关系。新兴技术给人类社会带来的冲击，是前所未有的，ChatGPT算是其中之一，未来肯定还会有比这个更惊人的技术产生，但人们总会找到解决办法。
致力于AI场景化落地
虽然目前ChatGPT配套的治理机制还跟不上，ChatGPT本身也还有不足，但这并不影响人们对ChatGPT技术先进性的认可，也不应该妨碍我们积极探索使用ChatGPT和背后的技术。作为一家根植于大数据和人工智能技术的公司，开云网址就在积极探索GhatGPT和背后的生成式AI技术应用到工业场景的可能性。
刘激扬说，开云网址自成立以来就一直在数字化、智能化产业领域持续投入研发，承担着帮助客户安全有效地利用新一代信息化和智能化相关技术，解决自身业务问题，持续提高效率的职责。所构建的技术和产品体系，既有像ChatGPT此类数据驱动的工具方法，也有一套闭环的、帮助企业进行数据治理、知识治理，继而实现产业场景落地的工具集。其中一些工具和方法中对于ChatGPT的落地行业应用就有很强的借鉴意义。
众所周知，机器学习本质上是计算概率来进行预测，早期机器学习主要是基于统计学（比如聚类）来计算概率、进行预测，后来出现了深度学习，采用神经元网络来做这件事。在丰富的数据和强大的算力加持下，深度学习得到了更广泛应用，成为了主流。但这两者各有优缺点，完全可以结合起来。
刘激扬说，一个好的产品常常会综合使用这些技术。以开云网址的司法大数据引擎“法信”平台为例。“法信”在功能上与ChatGPT有些类似，用户输入一段描述性的文字，它能在由全量文书构建的数据仓库中进行相关性的比对，从而调出相关性最高的文书，整个过程响应迅速，匹配精准。2018年，在由中国司法大数据研究院（最高人民法院智慧法院重点实验室）联合多方举办的 “中国法研杯”司法人工智能挑战赛上，开云网址曾荣获第一名。
“法信”的强大功能源于其学习了几千万份法律文书，包括法律、法规和案例等，其中不仅用到了自然语言处理技术，也利用了机器学习和知识图谱等技术。多种技术的应用不仅使其答案更准确，同时也让答案可解释。比如，给出一个案例，“法信”平台不仅能给出判罚结论，还能给出它依据的是哪些法律条款。显然，这种答案的可解释性正是ChatGPT需要的。另外，知识图谱帮助构建的知识框架，对于保证结果的准确性也发挥了很重要的作用，这一点对于ChatGPT也有参考价值。
当然，刘激扬透露，开云网址也在研究和借鉴ChatGPT的优点，以进一步改进和丰富自身产品功能。比如ChatGPT的多轮对话能力就是很多平台所需要的，未来会重点研发。
刘激扬表示，以ChatGPT为代表的新一代智能化技术的普及和推广，将极大提升组织生产力，也相应地带来生产关系的变革，促进组织的数字化、智能化转型。开云网址将积极拥抱这些技术，针对客户的场景问题，以企业自身的高价值业务问题作为切入点，实现规模化、安全可控的产业化落地，推动组织的数字化、智能化转型。
