AI被过度依赖和滥用,后果严重!

外圆内坊 2025-03-04 10:02:33

随着DeepSeek掀起的人工智能(AI)热潮,民众也不断探索AI的各种应用场景。人们欣喜地感到,人工智能给自己的生活带来了方便和改变,同时,又发现AI已被人们过度依赖甚至违规滥用。

近日,央视的一则报道就引人担忧。在中国高校内,学生们利用AI工具辅助论文写作已越发普遍,不当使用正呈上升趋势,这比过去抄袭更有过之而不及。

有些学生更是直接把AI工具生成的作文上交给老师。有机构对3000多名高校师生的问卷结果显示,近六成高校师生每天或每周多次使用生成式AI,近三成主要用于写论文或作业。

浙江大学研究人员对国内20多所高校的8000多名本科生和硕博群体调研发现,目前有部分学生已对AI产生依赖。

对此,各高校纷纷开始立规矩。复旦大学有关本科毕业论文(设计)的试行规定明列禁止使用AI工具的范围;天津科技大学要求论文的智能生成比例不超40%;北京邮电大学、中国传媒大学、华北电力大学、湖北大学、福州大学、南京工业大学等高校也试行或出台相关规定办法,规范学生借助AI进行论文写作。

更为可怕的是,一些中小学生也在利用AI完成作业。

《光明日报》不久前报道说,一些“独具慧眼”的小学生,注意到人工智能带来的便利,开始利用AI系统,来完成老师布置的作业。一些孩子的家长运用手机应用软件,通过镜头拍照搜索,就能从题库中检索到答案,完成功课变得简单又省事多了。

在帮助家长辅导孩子学业的同时,一些学生也悄悄地使用这些软件来“偷懒”。不少家长开始担忧,手机软件的加入,让完成作业失去了训练的作用。

如今,一些同学表示,写作文的时候想不到素材,问一下AI,不仅解决问题,也省了好多时间,避免像过去那样冥思苦想,还“出力不讨好”。

AI在医疗领域的应用同样引起舆论关注。近日,广东一位医学博主遭DeepSeek“打脸”的经历近日被网民热议。这位名为“孤芳自赏”的博主医生为患者开具治疗方案后,患者通过DeepSeek查询相关医疗信息提出质疑。博主一查才发现AI是正确的,医学指南更新了,自己还未知晓,自嘲“天塌了”。

有关医学专家认为,AI获取的病例数据有可能产生偏差,其提供的诊断建议“仅供参考”,最终诊断和治疗方案仍需由医生确定。若出现误诊、漏诊等情况,责任如何界定就无疑是个大问题。

更为可怕的是,有的人现在有病完全就依赖AI不去医院。有一些医生晒出相似遭遇。披露一些患者用DeepSeek问诊,提出一些感冒症状,要求开具中医处方。DeepSeek分析后,生成处方建议、煎服中药方法和注意事项。结果病况越来越严重,最后,不得已才上医院看医生。

对此,《新京报》发表文章指出,中医在辨证施治方面极为讲究,一些症候的细微变化或会使诊疗大相径庭。AI若忽视中医的这些特点和患者的差异性,很可能导致诊疗不当。只有各方都能正确看待和使用AI工具,才能确保其合理运用于医疗,真正造福患者。

文章呼吁相关部门应高度重视伴随AI问诊而产生的合规风险,建立健全合规管理体系,确保AI问诊安全、可靠、可控地发展。

现在,AI 被过度依赖及滥用的范围已经越来越广泛。

2月26日,中国围棋协会发布一则严厉的处罚通报被各大媒体转载。去年12月的全国围棋锦标赛上,一名19岁的职业棋手因使用人工智能程序作弊而被撤销职业段位、取消比赛成绩,并禁赛八年。

针对当前AI 被过度依赖及滥用的情况,许多有识之士呼吁要引起国家层面的高度重视和警惕,唤起民众对人工智能利与弊的思考。

“AI会改变一切,但这不代表AI能决定一切”,AI是把双刃剑,在充分利用的同时,还需关注合规使用等问题,避免误用、滥用。

高新技术固然重要,但是未来真正决定胜负的,还是今天我们为这个即将到来的时代做些什么真正有价值而又是与众不同的事。

有学者进一步提醒,“AI过度依赖症”还可能导致人类的认知力、判断力、创造力、感知力逐渐萎缩,思维浅表化、狭窄化和僵化,其既需政策法规的介入,也需个体层面的理性参与。每个使用者都应多一点对AI潜在风险的认识、保持距离的尝试和监督问责的意识,牢牢掌握人机交互的主动权。

总之,我们在运用科技给每一个普通老百姓的生活带去进步和改变的同时,我们还要让AI赋能我们的情怀,我们也要让情怀赋能我们的AI。

0 阅读:9
外圆内坊

外圆内坊

时政人文,欢迎大家关注我,给我点赞