人工智能网络化发展趋势及其伦理困境

　　摘要：随着计算机技术的不断升级，人工智能在多个领域得到了充分应用。在此背景下，人工智能的网络化是一种必然趋势，这就为这一技术的合理使用与监管带来了一定困境。从政府角度来考虑，人工智能的互联网化发展趋势至少带来过程“暗箱”、结果不可预测、监管主体模糊3方面的伦理困境。基于此，文章重点探讨了人工智能网络化的发展趋势以及其带来的困境，并提出可行的发展建议。

　　人工智能是近年来计算机领域的重要技术之一，并在社会各界发挥着重要的作用。如利用人工智能解决海量信息的个性化推送；利用人工智能解决图像、文字识别；利用人工智能解决跨语种翻译等。同时，人工智能技术在智能交通、智能城市、智能商务等多个领域内的应用方面的探索也在继续。在可预见的未来，人工智能的应用范围与应用深度会不断强化，进而形成基于互联网的全新人工智能体系。在这一背景下，社会各界尤其是政府部门需要为人工智能的发展划出“红线”，进而避免人工智能对社会及公民造成发利益损害。

　　1　人工智能的网络化发展趋势

　　人工智能的开发模式相对固定，在当下的技术发展趋势下，其主要是采用神经网络对主体构架进行搭建，后通过海量的资源来对其进行“喂食”，使得人工智能系统能够在自我学习过程中不断提高系统的准确性。在这一过程中人工智能的网络化趋势已经明显，具体分为数据来源的网络化趋势以及结果反馈的网络化趋势两个方面。在数据来源方面，人工智能系统在学习过程中需要获得海量的资源，而海量资源的获取路径显然需要从互联网活动。如相对简单的图像识别系统对猫的认知需要通过海量互联网猫的图片进行训练，从而充分掌握猫这一生物特征，来提高对图像的识别准确率。值得注意的是，互联网信息获得的复杂性并不能保障上述图片的准确描述，海量信息中所包含的错误信息可能对总体系统产生不可预估的影响。

　　人工智能网络化趋势还表现在具体应用层面上，如当下网络金融的个人评价包括多项用户的互联网信息，这些信息的获取与应用不仅存在个人隐私侵犯等客观问题，也无法保障来源与结果的正当性。除此之外，人工智能的网络化发展还表现在反馈体系中，在互联网信息中人工智能可能通过人们的互联网行为来形成不同判断，并在不断更新中形成全新的用户“虚拟形象”，并将人们的互联网行为限定在一定的“茧房”范围内。以互联网信息推送系统为例，它为用户推送了军事类别的信息，用户的阅读行为会加强这一推荐的权重，后续推送内容将更紧密地围绕军事展开，而用户的阅读也仅能从推送的内容中进行选取。在不断的强化-选取过程中，用户被限定在有限范围内而无法形成突破。

　　2　人工智能网络化的伦理困境

　　从人工智能网络化发展趋势来看，其在对社会产生利好影响的过程中也会由于大规模的应用产生不可预知的后果。而此种后果在当下的法律框架及社会治理结构中显然会产生一定的伦理困境。这些伦理困境会转变为政府监管的空白与“无力”。具体困境主要体现在以下3个方面。

　　（1）人工智能的网络化会产生其过程的“暗箱”。人工智能的最终要求是利用计算机代替人脑思维，而人脑思维过程中的不定向是一种基本特征。人类在做决策的过程中更多是基于潜意识而产生的行为指导，这与严谨的逻辑思维存在一定差距。而人工智能的决定过程虽然是建立在代码基础之上的，但经过上百万数量级的自我学习后，其学习的过程处于一个技术的“黑箱”之中，学习以及产生结果之间的逻辑关系“并不存在”或者是一种人类很难想象与理解的过程。这决定了在监管过程中人类无法理解人工智能给出结果的具体推演过程，甚至当人工智能出现错误时，无法判断其错误的来源，也无法通过提前推演等方式对错误进行规避。

　　（2）人工智能的网络化会带来结果的不可预测与结果强权。除了上文提及的过程“暗箱”之外，人工智能产生结果还存在不可预测的趋势。人工智能在网络化后能够调取的信息是海量的，任何在互联网中留有痕迹的信息均有可能被人工智能系统获取。假如将公民互联网公开信息纳入到人工智能系统中对公民进行人才评价，则某一次在不知何种场景下的不符合社会公序良俗的网络发言可能成为否定个人“道德”的依据，而本人、结果应用方等均无法对结果进行预判和规避，进而导致了评价系统失去了引导、纠错与“治病救人”的作用，这也会成为压在全体公民头上的“信息闸刀”，成为和谐社会发展的一种掣肘力量。

　　（3）人工智能的网络化会带来监管主体的模糊。当人工智能产生社会后果或侵权结果后，现行的法律及监管体系很难对其责任主体进行明确判断。以现阶段研究热度相对较高的自动驾驶为例，当以人工智能技术为核心的自动驾驶技术成熟后，自动驾驶车辆与行人发生碰撞后，交通责任的划分将成为一种现实的伦理困境。从因果论的视角来分析，人工智能系统本身、人工智能系统开发者、自动驾驶车辆厂家、自动驾驶车辆所有人均对事故的发生存在一定的因果联系，而其中的关键因素却很难厘清。甚至路径上的其他非直接因素也会对自动驾驶系统产生影响，如通信路径的稳定性等，更进一步增加了责任的复杂性，使得责任主体更为模糊。

　　3　人工智能发展建议

　　人工智能的网络化发展是一种必然的趋势，并会随着互联网技术与资源的“爆炸”而呈现出加速特征。人工智能网络化也必然会带来一系列的困境与问题，在“造福”人类的同时会产生一定的社会性问题。当然，也不能因为人工智能网络化可能带来的“危害”而因噎废食、望而却步。而是要用发展的眼光看问题，用新技术来解决新技术带来的问题，从而达成可持续的发展路径。具体建议如下。

　　第一，要鼓励以学科建设或行业协会为主导的协议规划。通过行业标准或技术核心等方式鼓励更为清晰、透明的人工智能协议出现，各参与方要对协议进行充分遵守，形成“红线”思维及“黄线”框架，将人工智能的技术发展与技术应用限定在有限的范围内。

　　第二，需要建立对应的快速立法机制。利用行业判例等方式试图解决成文法系立法滞后的这一“通病”，形成对新领域、新技术等的有效监管，避免由于立法滞后而产生的可能技术性问题。尤其是在涉及到民事侵权等非刑事案件的立法上要建立此种机制来避免社会问题的大规模出现，并切实保障人民群众的财产安全。

　　第三，要对人工智能的发展予以高度重视。对其发展态势进行实时监控与提前预估，尤其要对技术发展中的审批权限等问题形成有效的评估。政府要建立与新技术发展相适应的智囊团队，以较好完成这一工作为根本目的。

　　4　结语

　　本文从人工智能的数据来源、结果反馈及具体的技术要点3个层面分析了其对于互联网信息的依赖以及双方的联合，进而提出在未来一段时间内人工智能必然会表现出网络化趋势。结合趋势的具体特征，从政府监管的角度提出了可能存在的结果、过程与监管3方面伦理困境，为人工智能的未来发展提出可行的建议，为今后技术与社会的和谐发展提供必要参考。

　　作者简介：陈建发（1973-），男，福建安溪人，安溪县机关效能投诉中心助理工程师，研究方向：机关效能建设。

　　参考文献

　　[1]董立人.推动制造业加速向数字化网络化智能化发展[J].决策探索（下），2020（12）：13-14.

　　[2]李德群.融合数字化网络化智能化技术，助力材料成形制造创新发展——《材料数字化智能化成形专辑》卷首语[J].中国机械工程，2020，31（22）：2647.

　　[3]孙宏文，李长胜.人工智能时代社会结构的演变与空间建构[J].哈尔滨工业大学学报（社会科学版），2020，22(5）：59-63.

　　[4]张龙辉，肖克.人工智能应用下的特大城市风险治理：契合、技术变革与路径[J].理论月刊，2020（9）：60-72.

　　[5]侯峰.人工智能在计算机网络技术中的应用研究——评《云计算系统与人工智能应用》[J].林产工业，2020，57（2）：117.

　　（责任编辑：孙兰兰）