人工智能（AI）正在彻底改变世界。从医疗到自动驾驶汽车，人工智能正越来越多地融入我们的日常生活。如今，只有少数人不去问：什么是人工智能，它如何影响我们的日常生活？如今，由于这些技术的快速发展，人工智能的法律监管已成为欧盟（EU）的一个重要议题。政策制定者承诺打造一个以人类福祉为优先的人工智能（AI）框架，旨在确保欧洲人能够利用符合欧盟核心价值观和原则的新技术。
2021年4月，欧盟委员会提出了一项关于欧盟内部人工智能（AI）监管框架的提案。本草案《人工智能法》是首次尝试建立全面的人工智能法律监管框架，主要关注人工智能系统的使用方式及其潜在风险。理事会于2021年12月就欧盟成员国的总体立场达成一致，议会于2023年6月对其立场进行了投票。目前，欧盟立法者正开始谈判，以最终敲定这项人工智能法律。
《人工智能法案》旨在作为一项全面的欧盟立法工具，旨在平等适用于所有在欧盟内推出的人工智能系统，以及人工智能系统用户位于欧盟境内的情况。《人工智能法案》的核心要素之一是一套分类系统，用于评估人工智能技术可能对个人福祉、安全或基本权利构成的潜在风险。风险分为四个等级：不可接受、高风险、有限风险和最小风险。
《人工智能法》规定，因风险高而被认为不可接受的系统，如政府对社会行为的评估以及通过生物识别解决方案在公共场所进行识别的系统，除非有特殊情况。高风险人工智能系统被允许使用，但开发者和用户必须遵守要求全面测试、数据质量严密记录以及定义人类监督的问责制的法规。这些模型还必须注册到欧盟数据库。属于高风险类别的人工智能系统例子包括但不限于自动驾驶车辆、司法程序、医疗设备和基础设施机械。存在“有限风险”的人工智能系统，如聊天机器人，需承担透明度义务，这意味着用户必须被告知其互动是由人工智能生成的。另一方面，欧盟的《人工智能法》规定，被归类为低风险或最低风险的人工智能系统将不受额外的法律要求约束。
数据保护
数据保护无疑是当今时代的关键法律议题之一，而像《通用数据保护条例》和塞尔维亚的个人数据保护法的制定，改变了公司处理个人数据的方式。与此相关，公司越来越重视在安全方面的投资，以降低监督、黑客攻击和网络攻击的风险。
数据保护和人工智能技术应当结合考虑，因为人工智能的使用通常涉及收集、处理和分析大量数据。商业中的人工智能意味着运营必须遵守合法性、公平性和透明度的原则。这包括向个人数据被处理的个人提供全面且透明的信息，了解其数据的收集和处理情况。数据控制者还必须与这些个人保持公平关系。使用人工智能的公司应通过识别被处理个人数据的性质、存储地点和谁有权访问这些数据来启动这一过程，这一过程称为数据映射。因此，处理个人数据时应遵守法律标准。这包括列出个人数据被处理的个人名单，明确说明数据处理的目的，以及对员工进行关于个人数据合法处理的培训。此外，使用人工智能的公司应确定数据保护所需的文档，并制定必要的文档。记录这一过程还包括保存个人关于个人数据处理请求的记录，以及数据被发送给第三方和将数据带出国境的证据。
知识产权与人工智能（AI）
在塔林数字峰会上，有人指出，在未来十年内，多达50%的工作任务将通过人工智能（AI）实现自动化。人工智能已经承担一些创造性角色，比如写小说、绘画、写演讲稿和写诗。知识产权与人工智能是相互关联的领域，因为人工智能引发了许多与知识产权相关的问题，例如：谁应享有由人工智能创作的作品中的道德和财产权？人工智能可以被视为创作者，因此享有由人工智能创作的作品的版权吗？如果我拥有版权，ChatGPT可以在未经许可的情况下使用我的作品来训练系统吗？目前，人工智能相关案件的判例大多与涉嫌的版权侵权有关。
根据塞尔维亚著作权法，著作作品是作者以特定形式表达的原创精神创作。作者是创作了该著作作品的自然人，因此，作为非自然人的人工智能系统不能被视为作者，也不能享有著作权保护。为进一步说明，创作软件的人是该软件的作者，但例如由该人工智能系统生成的照片的作者则不是他。
未来，随着人工智能技术的发展，版权法很可能会发生变化。为了支持对人工智能的投资，最可能的版权方式是将版权转让给促成人工智能创造的实体。例如，一项关于版权及相关权利的新法律于2023年1月1日在乌克兰生效，该法将人工智能作为创作者。它引入了一项“独特权利”，保护使用人工智能创作的非原创作品——即未涉及人类参与的作品。
人工智能系统造成的损害责任
人工智能系统造成的损害责任是当今技术驱动世界中一个复杂且不断演变的法律问题。我们经常听到这样的问题：人工智能危险吗？此外，随着人工智能技术日益融入我们生活的各个方面，当人工智能系统运行不良或造成伤害时，谁该负责的问题也随之而来。传统的问责框架往往不够。目前，法律框架在制定人工智能系统问责的具体规则方面面临挑战。在促进创新与确定人工智能系统造成的损害责任之间取得平衡，是建立有效框架以应对人工智能造成的损害问题的关键。
朝这一方向迈出的积极举措之一是欧盟人工智能责任指令，该指令完善并更新了欧盟民事责任的法律框架，包括专门针对人工智能系统造成的损害量身定制的法规。
人工智能在医学中的法律方面
利用人工智能模型分析医疗信息并提取有用信息以改善健康结局和患者福祉，是人工智能（AI）在医学应用的特点。信息技术的最新进展加速了人工智能（AI）在医疗实践中的整合。目前，人工智能主要用于医学领域，支持临床图像的确定和分析。临床图像判定支持系统帮助医疗提供者就治疗、用药等做出详细决策。在医学图像分析方面，它用于审查CT扫描、X光、MRI等。
在使用人工智能在医疗中的法律方面，需要注意的是，临床图像支持软件会从患者的健康数据中收集信息，从而为其他患者提供建议。因此，医生必须解决关于保密性和隐私的潜在困难，因为患者有权了解其机密健康信息如何被用于研究、诊断和治疗目的。此外，人工智能在医学中造成的损害责任至关重要，因为人工智能可能因系统中的某些不准确性而错误诊断或建议不当的医疗治疗。在医疗专业人员与人工智能开发者之间分配职责是一项具有挑战性的任务。还需要注意的是，大多数现行医疗法律都早于人工智能出现，相关法律亟需修改。人工智能在医学中的应用无疑带来了需要我们及时关注的道德困境。人工智能的伦理问题引发了关于安全性、透明度、算法公平性和数据保护等问题。
人工智能（AI）在法律背景下的伦理
伦理是一套伦理标准，帮助区分什么是道德上的正确与错误。人工智能伦理探讨如何在最大化人工智能的积极影响的同时，最大限度地减少潜在风险和负面后果的方法。人工智能的性能与其设计、开发、培训和使用相匹配。人工智能（AI）在法律背景下的伦理，侧重于在人工智能系统存在的各个阶段建立伦理原则和指导方针的框架。
政府、研究人员和人工智能技术开发者一致认为，有效的治理项目应明确与人工智能相关的个人职责和责任，并制定开发、监督和讨论人工智能及其相关风险的程序。
人工智能相关案件的判例法
OpenAI，著名人工智能应用ChatGPT背后的公司，已经面临法律诉讼。该诉讼在旧金山联邦法院提起，指控其在ChatGPT开发过程中涉嫌违反多项隐私法律。不用说，ChatGPT是一个历史上增长最快的用户应用，吸引了大量公众关注。OpenAI被指控滥用社交媒体及其他网站的用户个人数据来训练ChatGPT。这很好地说明了为什么数据保护和人工智能技术应当一起被考虑。
此外，还有针对人工智能公司的其他诉讼，原因是涉嫌侵犯版权。毫无疑问，每位作者从其作品创作之时起就享有与其作品相关的道德权利和财产权利。原告——作者们声称，OpenAI 在未经他们同意的情况下使用他们的小说来训练 AI 技术。据称，ChatGPT 对多部未经作者同意使用的作品进行了精准摘要。考虑到 OpenAI 未获得使用这些小说的许可，作者们被剥夺了从其作品中获得经济收益的机会。
在知识产权和人工智能（AI）领域，摄影公司盖蒂图片公司已在美国对文本转图像模型Stable Diffusion提起版权侵权诉讼。盖蒂图片社声称，这家全球领先的开源生成式人工智能公司未经许可或版税，从其数据库复制了超过1200万张图片。
大多数国家尚未有AI相关案件的判例法，但毫无疑问，这些案件的结果将对该领域的未来判例产生重大影响。
塞尔维亚的人工智能（AI）律师
欧盟的《人工智能法案》是首个具体规范人工智能监管的努力。其目标是通过建立统一的法规，规范欧盟内AI的管理和使用，将欧洲打造为值得信赖的人工智能领先枢纽。一旦欧洲议会、欧盟理事会和欧盟委员会就最终文本达成协议，双方有大约两年的时间来遵守相关法规。在此过渡期结束后，因不遵守人工智能法律，将面临最高3000万欧元或全球年营业额6%的行政罚款。
根据人工智能律师事务所的观察，新法规的持续实施往往既困难又耗时。塞尔维亚一位人工智能律师认为，迅速采取措施以完成截止日期并实现对法规的永久适应至关重要，并能帮助企业理解并遵守欧盟人工智能法中规定的要求。 [email protected]。
