Lee Je-hyeon谈人工智能时代的退化：人类须避免把思考交给人工智能

人工智能开始代替人类的思考过程后，人类使用工具的能力也可能随之退化。KIST人工智能转型战略室室长Lee Je-hyeon表示，在人工智能代理能够自行判断并执行任务的时代，人们需要思考如何保持自身能力、使用人工智能。

代理连续工作两天半，误删数据库

Lee Je-hyeon近日分享了使用Sol模型搭建数据库时的经历。他提供了自己此前制作的数据并下达任务，但人工智能代理在自行设计数据结构时，删除了原有数据并重新创建。代理从周五持续运行到周日中午，整整两天半没有休息，最终留下的结果却是原有数据全被删除。

Lee Je-hyeon说，问题在于自己过于轻易地把批准权限交给了人工智能。任务结束后，人工智能表示“只搭好了数据库格式，没能填入内容”，听起来像是在道歉；他随后不得不借助另一个模型进行恢复。他指出，这一经历显示，如果人们不对人工智能的执行结果进行适当核验和审批，就可能面临风险。

KIST面向部门负责人开展人工智能培训

为应对技术快速变化，KIST正在开展组织层面的培训。Lee Je-hyeon表示，在Vibe Coding等新技术培训中，他们有意让部门负责人等管理岗位人员参与。年轻研究人员往往会先接受新技术，但要推动组织发生实际变化，负责组织决策的部门负责人也需要理解技术。

部门负责人的工作范围比一线人员更广，能够发现组织内部的瓶颈，并思考如何用人工智能提高过去依赖外部委托的工作的效率。Lee Je-hyeon说，培训主要面向约20%的先行人员，以带动组织的人工智能转型，避免有人因不熟悉技术而拒绝变化。

把人工智能作为扩展能力的工具

谈到人工智能发展可能导致人类退化的担忧，Lee Je-hyeon从人类的生物学特性作出解释。他说，人天生倾向于节省能量、尽量少思考；过去的工具为身体提供便利，而人工智能则是代替大脑活动的工具。写作、绘画等过去需要大量思考的工作，如今可以借助人工智能在短时间内完成，因此人们可能面临把整个思考过程都交给人工智能的风险。

他强调，应把人工智能当作扩展自身能力的工具，而非单纯的代办者。他本人会制作并发布工具，在本地环境分析论文数据、提取见解；也会把人工智能融入教育内容，帮助孩子学习历史，以此将自己的构想付诸实践。与此同时，他表示，作为国家研究机构的工作人员，仍对数据泄露等人工智能代理失控可能引发的安全问题保持警惕。

来源：原视频（YouTube）