ChatGPT

我国安全生产形势依然严峻复杂，从业人员和公众的安全素养提升是一个长期的过程，如何利用最新科技手段和方法来快速有效地增强风险辨识和防控能力，提高安全管控效能已成为迫切的现实需求。以Chat Generative Pre-trained Transformer（以下简称ChatGPT）为代表的人工智能（Artificial Intelligence，以下简称AI）技术的快速发展和在相关行业领域的尝试应用为安全科技的进一步创新发展和应用提供了突破点。本文分析了以ChatGPT为代表的AI技术的发展现状，列举了它可能的应用场景和优势，并利用现有的类ChatGPT工具，对部分场景进行了测试应用。同时，对类ChatGPT工具的局限性和可能风险进行了剖析。希望能以此助力在安全生产领域更加理性地应用AI新技术和工具，更好拥抱数智化新未来。

一、安全生产形势复杂严峻，科技创新及其成果应用是破解之道

目前，全国安全生产整体水平还不够高，安全发展基础依然薄弱，企业本质安全水平较低且风险防控能力还不强。安全生产新旧风险交织特征明显，一方面，危险化学品、矿山等高危行业产业布局和结构调整优化还不到位，小、散、乱的问题尚未得到根本解决；另一方面，工业化、城镇化持续发展，各类生产要素流动加快、安全风险更加集聚，事故的隐蔽性、突发性和耦合性明显增加。目前我国安全生产形势依然严峻复杂，积极探索并充分利用先进科技成果是防范化解重大安全风险的重要思路和对策。二、AI技术快速发展，为安全管控能力加强提供重要机遇这几年，AI技术的发展和应用正迎来新的突破，尤其是在AI生成内容（AI Generated Content，AIGC）方面。以ChatGPT为代表的AI技术正加速实现从感知理解到生成创造的跃迁，这将会对各行业领域产生重大影响。以ChatGPT为例，它是由美国AI研究实验室OpenAI于2022年11月发布的一款基于生成式预训练模型GPT-3.5的自然语言处理工具。ChatGPT可根据聊天的上下文进行互动来完成编写文案、代码、邮件、视频脚本等各项任务。今年3月发布的大型多模态模型GPT-4，使得ChatGPT可接收图像和文本输入，并让ChatGPT在图片阅读方面表现出惊人的判断能力。目前，虽然在许多现实场景中ChatGPT还比不上人类的能力，但它在很多专业和学术基准测试中已表现出与人类相当的水平。国内外各科技巨头纷纷布局，加入这场全球新一轮AIGC技术竞赛，正在推出和测试各自类ChatGPT的产品。例如，国外的有微软的Bing Chat、谷歌的Bard和Meta的LLaMa等，国内的有百度的文心一言、阿里云的通义千问、奇虎360的360智脑、商汤科技的日日新等。这些类ChatGPT工具的功能主要包括文案创作、逻辑推理、自动编程等。ChatGPT于2022年推出后两个月便成为拥有1亿活跃用户的消费应用程序。此外，基于AI的绘画工具如Midjourney、Stable diffusion，辅助生成PPT工具如Tome、数字人生成工具如D-ID等产品也大量涌现，受到热捧。这些具有快速响应能力的AI技术产品表现出了在多场景、多行业、多领域的落地潜能与应用前景。其应用不仅将加速丰富人们的生活，也将极大地提高各行业领域的工作效能。当然，这也为安全生产中安全管控能力的加强提供了重要机遇。三、类ChatGPT人工智能技术在安全生产方面的应用场景多样，未来可期类ChatGPT人工智能技术和工具可在安全生产的以下五方面进行探索和应用。（一）安全智能助手类ChatGPT工具很适合作为日常工作的安全辅助工具，它可通过强化学习方式进行自我纠错，在试用过程中，可明显感受到与它的对话体验要比当前Siri等智能助手好很多。类ChatGPT工具在代码纠错、文案创作等方面表现出的生成性能与需求响应能力，体现出了其发展为各行业智能助手的潜力。类ChatGPT工具经过训练和微调可实现向安全生产方向的迭代，从而可提供更智能的安全助手服务。使用某一款正在测试中的类ChatGPT工具，通过文字或语音方式提问：“请从5个方面描述，高层建筑逃生要点有哪些？”系统快速给出的回复如图1所示。

图2 根据要求系统给出的方案（方来华 供图）（三）风险监测与预警类ChatGPT工具可分析复杂的工艺过程并监测环境数据，如温度、压力、流量、浓度、湿度、噪音和振动等，分析这些海量的工业数据可预测工业生产过程中的潜在危害。例如监测工业熔炉的温度、压力等数据并结合历史信息进行分析，可实现对设备的预测性维护，这样可提高设备的可靠性和安全性。此外，对上述工业数据进行分析并结合事故案例数据还可研判发生事故的可能性。AI工具除了可以提供风险分析结果和建议来辅助优化工作流程或设备维护计划外，还可以及时纠正员工生产过程中的危险行为，如AI驱动的摄像头会检测员工是否佩戴必需的个人防护装备，然后根据员工的佩戴情况会自动生成相应的语音提醒。（四）事故（事件）分析类ChatGPT集成到事故（事件）报告系统，可指导用户完成报告过程，确保收集和提交事故（事件）所有必要的信息，这样员工可更轻松、更高效地报告安全问题或事故（事件）。AI工具不仅能帮助用户报告事故（事件），还能分析事故（事件）发生的根源并提出改进建议。一方面，AI工具会识别可能导致事故（事件）发生的因素，如人为因素、环境因素或设备因素，然后会针对不同因素提出建议措施以防重蹈覆辙。另一方面，类ChatGPT工具通过对话与员工互动，更易获取来自员工对事故（事件）的反馈并根据反馈提出改进建议。此外，这些工具还可促进员工和管理层之间进行交流，从而更好地了解事件并提供更有效的解决方案。使用ChatPDF相当于直接与事故调查报告、手册、书籍或研究论文交谈。ChatPDF可以用通俗易懂的中文对晦涩难懂的外文资料进行提炼总结，分析并解答相关问题。如想对美国2022年1月15日发生火车事故情况进行了解，只需要打开聊天窗口，上传“Employee Fatality Amtrak Train 16.3-15”PDF文件，然后就可开始与文件进行交谈。利用ChatPDF可快速从国外事故调查报告PDF文件中提取需要的信息，比如事故的主要原因、直接原因以及事故教训启示等。与ChatPDF具体的交流过程如图3所示。

图3 与ChatPDF具体交流过程（方来华 供图）（五）公共安全教育类ChatGPT工具有着强大的知识汇聚能力，适合用作公共安全教育的工具，为公众提供安全提示、事故规避策略和安全知识，这样有助于增强公众的安全意识。进一步讲，利用类ChatGPT工具将复杂的安全信息以简单易懂的方式进行交流，能够增加公众对安全信息的接受度。当宣传安全信息需绘图时，用户无需掌握任何绘画技能，仅通过自然语言在AI绘图工具的对话框中作出要求再发送，即可在几秒钟内创建生成用户想象内容和场景的高质量图像。而且用户提示词描述越详细准确，图像的效果就越逼真。四、类ChatGPT人工智能技术应用尚存局限，需关注可能面临风险（一）类ChatGPT工具需要专业人员的支持和监督虽然类ChatGPT工具可以自动回答用户的问题，但目前在某些方面尚不能完全替代专业人员的判断和决策。类ChatGPT工具虽然接受了大量数据的训练，但还不具备人类的意识、思想、感觉和经历。它对世界的认知来源于人们对现实世界的描述，但这种描述并不一定是真实世界的全貌，所以说它缺乏对现实世界的完全了解和认知。（二）类ChatGPT工具不能保证自身回答正确性因为类ChatGPT工具是根据概率分布关系生成最符合要求的语言，所以无法保证生成内容的真实性和准确性。类ChatGPT工具是基于本身已拥有的数据集进行回答，若该数据集不全面或不准确，那么它的回答就会存在错误。（三）使用类ChatGPT工具可能会产生一些安全风险例如攻击者利用系统漏洞和技术手段攻击类ChatGPT工具，可能会使得敏感信息被窃取或工业系统遭破坏。因此，使用类ChatGPT工具还需要采取相应防攻击措施以确保信息等方面的安全。五、积极探索并应用AI新技术和工具，拥抱数智化新未来AI飞速发展将会对人类生产生活产生颠覆性影响，AI技术被广泛地应用于现实世界的各种场景，在为未来创造无限可能的同时，也对各国的法律伦理等方面带来挑战。如何趋利避害地实现AI技术在各行业领域的普及应用和良性发展，是一个亟待研究的重要课题。可以期待的是，随着AI三大核心要素（数据、算力、算法）不断更新迭代和与其他技术的融合，类ChatGPT工具将能提供更加准确、高效和安全的服务。当前，我国各类隐患和安全风险交织叠加，重大安全风险辨识、监测预警、重大事故应急处置和抢险救援等方面的短板突出。科技创新将为安全生产高质量发展注入最关键、最可持续的力量。AI等新兴技术不断拓展和应用，将促进安全生产加速向数字化、网络化、智能化方向转变。以ChatGPT为代表的AI技术的日益普及和应用，可为安全生产管理工作开辟新天地，提供新工具、新思路和新方法，要积极学习并科学利用最新的AI技术成果，不断加强我国安全生产科技自主创新能力，提高安全生产自动化和智能化水平，创新安全监管手段，支撑和引领安全发展。