外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日(rì)，2024 Inclusion·外滩大会
正(zhèng)式闭幕。事实上，这一天下午，距离大会(huì)闭幕几个小(xiǎo)时(shí)前，仍有观众在排队入场。官方(fāng)数据显示，本届(jiè)大(dà)会共吸引了(le)5.2万人现场参会，无 论是参会规模还是国际嘉宾(bīn)的数量(liàng)，均(jūn)创下了(le)历史新高。除(chú)了年轻人，记(jì)者注(zhù)意到，观众队(duì)伍中还有(yǒu)不(bù)少(shǎo)老人、小孩。

　　本届外滩大会(huì)以“科技·创
造可持(chí)续未来”为主(zhǔ)题，包括36场(chǎng)开放见(jiàn)解论坛、10多(duō)场创新者舞(wǔ)台(tái)、2场AI创新赛事、1场10000平方米的(de)展(zhǎn)览以及1场绿色生活节(jié)和1场科技人才招聘会。据统(tǒng)计，三天时间内，有30余项AI新成(chéng)果在本届外(wài)滩大会发布，包括(kuò)蚂蚁(yǐ)AI生活管家“支小宝”、AI金融管家(jiā)“蚂小财”，AI健(jiàn)康管家等。

　　10000平方(fāng)米的展览场地汇集了众多企业参展，记(jì)者观察到，相比(bǐ)往年，准备各类装备体验、互动的厂商越来越多了，许多展台前，观众为参与(yǔ)体验(yàn)排起长队。重视(shì)人文性，成为本(běn)届外(wài)滩大会的一大特点。除了开幕(mù)式上24岁的独臂男(nán)孩周键(jiàn)借智能仿生(shēng)手演奏(zòu)钢琴的动人(rén)瞬间，在外(wài)滩大会的展区，借助设备观众可以体验(yàn)将脑电波以花朵的形式可视化，让瞬间的情绪形成纪念。还有可实现“拥抱传递”的设备，穿戴上内嵌(qiàn)人造肌肉纤维的特制背心(xīn)，当另一(yī)个人拥(yōng)抱装有压力(lì)传感器的(de)模型(xíng)时，体验者便能感受到模(mó)拟其声(shēng)控、触觉反馈和(hé)温度调节等多种感官(guān)元素的“远(yuǎn)程拥(yōng)抱”。

　　在这一年的(de)外滩大(dà)会上，如(rú)何让“技(jì)术向善”的讨论和研发更加被业界重视。

　　AI医(yī)疗(liáo)受关注

　　为期三天的展览(lǎn)中，AI医(yī)疗的相关产品、企业展台(tái)总有(yǒu)着最多的人流量，“爸妈记忆力下(xià)降了怎么办？”“AI如何辅助癌症筛查(chá)？”这些(xiē)问(wèn)题(tí)让不少观(guān)众不自(zì)觉就迈入了相(xiāng)关展区，不断有老(lǎo)人加入脑健康检测，有年轻人加入脑(nǎo)电波的(de)“画
图(tú)”。

　　“和去年相比，今年外滩大会AI人工(gōng)智能的份额感觉更高了，而(ér)且不是像(xiàng)之前傻乎乎的那种，今年(nián)的很(hěn)多应用是真的有用的，明(míng)显能感觉到算(suàn)法提升了很多，比如说面部识别功能或者语音交互功能，都感觉(jué)上升了一个档次，效果变好(hǎo)了(le)，所以大家体验的热(rè)情也高。”一位参(cān)会(huì)的展商对(duì)记者表示。

　　来不及喝口水，达摩院AI医疗展台的工作人员就(jiù)迎来了下一位咨(zī)询的观众，今年的外滩 大(dà)会上，达摩院(yuàn)医疗AI实验(yàn)室展出了其AI医学影(yǐng)像(xiàng)分析产品，借助AI技术，这项产品能够从平扫CT中进行胰腺(xiàn)癌、食管癌、肠癌、胃外滩大会参会规模创新高，人们都在关注如何防止AI作恶癌 等八大癌症及一(yī)系列慢性病的筛查，吸引了不(bù)少观众。

　　展台的工作人员告诉记(jì)者，通过AI识别，这项产(chǎn)品能够在肝癌、肺
癌等癌(ái)症筛查中达到90%以上的准确率，提升医生的工作效率，补足一些医疗资(zī)源不均衡带来的问题。

　　“其实这项技术主要是面向B端(duān)的，为医生服务，客(kè)户更(gèng)多(duō)是医院、体验机构(gòu)、保险公司、公益组织以及软件厂商之类的，但这两天很多个人也非(fēi)常感(gǎn)兴趣(qù)。”上述工作人(rén)员表示。尽管许(xǔ)多AI医疗产品并未直接(jiē)面向C端用户，但(dàn)外
滩大会的观众(zhòng)们(men)对AI医疗将如何改变疾(jí)病的诊治(zhì)感到(dào)好奇。

　　博(bó)斯腾科技的展台则吸引到了(le)大量的老年观众，许(xǔ)多(duō)老人纷纷拿出手机通过支付宝“碰一碰”进行答题，检测自(zì)己得阿尔兹海默(mò)病的风险指数。展区的工作人员(yuán)介绍，通过
许多(duō)数据、资料的(de)支撑，这款产品能够(gòu)通过答题测(cè)验、语(yǔ)音交互、动作识别等方式(shì)检测阿尔(ěr)兹海默病，并通过大模型生成(chéng)用户专属(shǔ)的脑健(jiàn)康训练计(jì)划。

　　“我们的(de)产品
2020年成型，但借助摄像头的动态
识别功能是今年刚推(tuī)出的，主要是借力于AI功能的发达，包括训练方(fāng)案的(de)推荐，也的确在大模型出(chū)现后智(zhì)能了很多。”该展区的(de)工作人员告诉记者。随着AI的发(fā)展，更多AI医疗产品的“进化”值得期待。

　　需要强调的是(shì)，目(mù)前，许多AI医疗产品的诊疗效果仍缺乏公开数(shù)据或第三方权威(wēi)机(jī)构的(de)验证，相关展(zhǎn)台的工作人员也均表示AI医疗产 品无(wú)法完全代替医生诊疗需求，以辅助作(zuò)用为主。不(bù)过，AI在医疗问题(tí)中的应(yīng)用的确被业界期待。

　　不少大厂(chǎng)也(yě)在押注AI医疗赛道。外滩大会上，支付宝发布AI应用(yòng)新产品“AI健康(kāng)管家”，为用户提
供找医生、读报告、陪看诊、问(wèn)医保、管健
康等30多(duō)项AI健康服(fú)务。百川智能创始人王(wáng)小川(chuān)则介绍，百
川智能将重点在大医疗AI领域做投入，从儿科医生、全科
医生两个切入(rù)点发力(lì)，希望在明年实现(xiàn)医疗的低成本和可(kě)及性，减少医院的(de)挤兑现象。

　　全(quán)国政协常委周(zhōu)汉民在外滩大会的(de)一场论坛中表示(shì)，随着人(rén)工(gōng)智能等新技术的(de)不断发展和应用，医 疗产业正迎来一(yī)场深刻的变革(gé)。据他(tā)观察，从最初的影像诊断、辅助诊疗、基因检测(cè)，到近年来的药物发现、临床试验、健康管理等，人工智能在提(tí)高精准度与效率、个性(xìng)化治疗、数据处(chù)理等方面具备(bèi)显著优势。他指出，医(yī)疗健康与人(rén)工智能的融合还延伸到了中医领域。

　　谈及人工(gōng)智能在医 疗(liáo)产业(yè)的应用情(qíng)况，周(zhōu)汉民表示，人(rén)工智能在医疗健康产业的应 用(yòng)应着力提(tí)高精(jīng)准性、适用性和安全性，此外，还需关注人工智能(néng)的引入是否会导致医护人员技能(néng)萎缩、对人(rén)工智能的信任(rèn)的误判以(yǐ)及信息超载。

　　以AI对抗AI

　　在期待技术带来美好生活(huó)的同时，如何预防技术(shù)“作恶”也成为外滩大会讨论的热点话题。

　　今年的外滩大会上 ，举办了包括“afac2024金融智能创新
大赛”和“全球Deepfake攻防挑(tiāo)战赛(sài)”两场子赛事在内的AI创(chuàng)新大(dà)赛，由于近日韩(hán)国曝出“Deepfake”（深度伪造技术）事件，被认为是(shì)采用新犯罪手(shǒu)段的“N号房”案件(jiàn)重现，以AI对抗AI，Deepfake攻防(fáng)挑战赛尤其受到观众的挑战。

　　事实上，随着AI技术的发展，Deepfake滋生(shēng)欺诈等(děng)黑色(sè)产业链，AI换脸欺诈带来的经济(jì)财产损(sǔn)失、名誉受损等事件正在成为全(quán)球(qiú)挑战(zhàn)。

　　在外滩(tān)大会(huì)展区，许多观众现场(chǎng)拍照，然后利用Deepfake换脸模型和算法(fǎ)，通过视频活化、微笑和眼镜模版对观众的真实照片进行换(huàn)脸，亲身
感受了(le)Deepfake的逼真。

　　而在外滩大会AI创新赛·全球Deepfake攻(gōng)防挑战赛的表演赛上，观众(zhòng)更是为AI识别AIGC伪造图(tú)片感到激外滩大会参会规模创新高，人们都在关注如何防止AI作恶动。在这场表演赛中，主持人拿出了9张玛丽莲梦露等女星(xīng)的照 片，其中2张是AIGC伪造的(de)，选手用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张(zhāng)照片与正确答案进行比(bǐ)对(duì)。最终，两支参赛队伍(wǔ)的模型都找到了正确答案。

　　在(zài)后续的互动中(zhōng)，一个有趣的现象是，人类肉眼(yǎn)能够
看 出“一眼假(jiǎ)”的伪造图片，AI可能识别不出，一(yī)些肉(ròu)眼真假难辨的图片，AI反而(ér)能识别(bié)。新加坡科技研究局(jú)周天異教授分(fēn)析，人类(lèi)在判断图像(xiàng)是否伪造(zào)会依赖直(zhí)觉和逻辑，一(yī)些(xiē)人类一眼便知的问题AI无法联系相关背景、情形无法识别，而一些难以识别的图片(piàn)，AI一丝不苟 、勤勤恳恳地完成人类指令的工(gōng)作模(mó)式反而(ér)能找出问题(tí)。他(tā)表(biǎo)示，相比“一眼假(jiǎ)”的图片，恰恰是这些难以识别的图片往往(wǎng)给(gěi)人类带来更大损失，因此，用AI应对Deepfake有着重要意义。

　　“从我们现(xiàn)在看到的数据来看，我们叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量比去年大概增加了(le)10倍，去年攻击的(de)浓度(dù)大概是1%，今年就是(shì)10%。整个风险其(qí)实(shí)是(shì)呈指数级上升的情况，这不
仅仅是在(zài)中国，在韩国，在菲律宾、印(yìn)尼等国家都有类似的情况发生。”外(wài)滩大会AI创新赛·全球Deepfake攻(gōng)防挑战赛出题人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现线上的流量有(yǒu)10%是Deepfake的流量，随着AIGC的发展，生(shēng)成的成本会越(yuè)来越低，效率越来(lái)越高，明年可能不是20%，可能(néng)是50%，这(zhè)是(shì)一个必(bì)须重(zhòng)视的威胁。

　　更多引导AI向(xiàng)善的观点也在外滩大(dà)会被讨论，姚伟斌坦(tǎn)言，研发检测(cè)算法，只是遏制Deepfake技术 滥用的方式(shì)之一。这种方式是相对滞后的。如果要从根(gēn)源上防范欺诈行为，姚伟斌认为应(yīng)在标准和(hé)立法(fǎ)角度，要求给A IGC 内容建立通用标识，比如每(měi)一张AIGC生成的视频或图片都在文件(jiàn)信息里带一个签名或水(shuǐ)印，这样(yàng)平台管理更有依据，也能让AIGC 可(kě)以更可(kě)信。

　　“让人(rén)工(gōng)智能(néng)帮助人弹钢琴，而不是作恶。”是本届外滩大会反复(fù)强调的价值观。上海市数据科(kē)学重点实(shí)验室主任(rèn)肖仰华表(biǎo)示，AI的大规(guī)模滥用是可(kě)能损害人之为人的本性的。要有所为有所不为，但凡伤害人之(zhī)为人之本性的AI应(yīng)用，我们要谨慎(shèn)，要加以限制(zhì)。为此，“我们(men)要重视(shì)技术(shù)治理，并将治理提前(qián)考(kǎo)虑，做到未雨绸缪。”

　　浙江强脑(nǎo)科技创始人兼CEO韩璧丞(chéng)则表示，AI伦理委员会的存在非常重要。技(jì)术前进的时候，更应该关(guān)注“走的慢(màn)”的人(rén)。“当一个足以改变世界的技(jì)术出现时，我们先用它来帮助(zhù)最需要的人”。

　　（本(běn)文来自第一财经）

责任编辑：李桐

未经允许不得转载：骏诺车品JNCP官方网站 外滩大会参会规模创新高，人们都在关注如何防止AI作恶