-
OpenAICEO威胁过度监管或退出欧洲欧议员称立法者不该被“勒索”
5月26日消息，几个月来，人工智能研究公司OpenAI首席执行官萨姆·奥特曼(Sam Altman)始终在呼呼世界各地的立法者起草管理这项技术的新规则。但在周三，他威胁称，如果欧盟“过度监管”，该公司可能会退出欧盟。在过去的一周里，奥特曼在欧洲各地奔波，分别与法国、西班牙、波兰、德国和英国的政界人士会面，讨论ChatGPT的进展以及人工智能的未来。在OpenAI向世界推出其人工智能驱动的聊天机器人ChatGPT六个多月后，围绕其潜力的担忧引发了兴奋和恐慌，并使其与监管机构不断发生冲突。奥特曼本周没有去过的一个地方是布鲁塞尔，在那里，欧盟监管机构正在制定期待已久的欧盟人工智能法案，这可能是全球首套管理人工智能的规则。两位知情人士称，奥特曼取消了原定对布鲁塞尔的访问。奥特曼周三在伦敦表示：“目前的欧盟人工智能法案草案存在过度监管，但我们听说它将被撤回。”然而，负责制定人工智能法案的欧盟议员对奥特曼的说法提出了异议。罗马尼亚欧洲议会议员德拉戈斯·图多拉切（Dragos Tudorache）表示：“我认为短期内不会出现任何修订。”他补充说：“尽管如此，我们还是很高兴邀请奥特曼先生到议会来，这样他就可以表达自己的担忧，并听取欧洲立法者对这些问题的想法。”欧盟负责内部市场的委员蒂埃里·布雷东（Thierry Breton）也批评了奥特曼的威胁，称规则草案不是用于谈判的。周四，奥特曼将与英国首相里希·苏纳克（Rishi Sunak）和法国总统伊曼纽尔·马克龙（Emmanuel Macron）等多国领导人举行会面，预计OpenAI将更详细地讨论如何监管人工智能。立法者不该被“勒索”荷兰欧洲议会议员金·范·斯巴伦塔克（Kim van Sparrentak,）也参与了欧盟人工智能法案草案的起草工作，她说自己和其他议员“不应该被美国公司勒索”。“如果OpenAI不能遵守基本的数据治理、透明度以及安全要求，那么他们的系统就不适合欧洲市场，”斯巴伦塔克表示。到2月份，ChatGPT创下了历史上所有消费者应用程序中用户增长最快的纪录。OpenAI首次与监管机构发生冲突是在3月份，当时意大利数据监管机构Garante在国内关闭了该应用，并指责OpenAI藐视欧洲隐私规则。在该公司为用户制定了新的隐私措施后，ChatGPT才得以重新上线。与此同时，欧盟立法者在人工智能法案中增加了新的提案，迫使任何使用ChatGPT等生成式人工智能工具的公司披露用于培训其系统的任何受版权保护材料。欧盟议员本月早些时候就该法案草案达成一致，欧盟所属成员国、欧盟委员会和欧洲议会将敲定该法案的最终细节。通过欧盟委员会，法国或波兰等个别成员国也可以在该法案可能在今年晚些时候获得通过之前寻求修改。全力以赴推进计划虽然这项立法已经酝酿了几年，但就在对这些提案进行关键投票的前几周，专门针对生成式人工智能工具的新条款才被起草出来。此前有报道称，有些立法者最初提议完全禁止使用受版权保护的材料来培训生成式人工智能模型，但这一提议最终被否决，转而支持更严格透明度的要求。图多拉切表示：“这些规则主要与透明度有关，这确保了人工智能和构建它的公司是值得信任的。我看不出有哪一家公司会回避透明度。”Pinsent Masons律师事务所的技术合伙人尼尔斯·劳尔（Nils Rauer）表示，奥特曼在立法者审议他们的提案时发表了上述言论，这“并不令人感到意外”。“OpenAI不太可能背弃欧洲，毕竟欧盟在经济上太重要了，”他说。“你不可能将拥有近5亿人口和15万亿欧元(约合16.51万亿美元)经济规模的单一市场分割出去。”奥特曼周四在德国慕尼黑表示，他已经与德国总理奥拉夫·朔尔茨（Olaf Scholz）会面。德国欧洲议会议员谢尔盖·拉戈丁斯基（Sergey Lagodinsky）也参与了这项立法，他说，虽然奥特曼可能正试图在各个国家之间推动他的议程，但布鲁塞尔监管这项技术的计划正在“如火如荼地推进”。“当然，可能会有一些修改，”他说。“但我觉得他们不会改变整体轨迹。”（小小） ...
智能设备 2023-05-26 11:18:32 -
OpenAICEO威胁过度监管或退出欧盟欧议员称立法者不该被“勒索”
5月26日消息，几个月来，人工智能研究公司OpenAI首席执行官萨姆·奥特曼(Sam Altman)始终在呼呼世界各地的立法者起草管理这项技术的新规则。但在周三，他威胁称，如果欧盟“过度监管”，该公司可能会退出欧盟。在过去的一周里，奥特曼在欧洲各地奔波，分别与法国、西班牙、波兰、德国和英国的政界人士会面，讨论ChatGPT的进展以及人工智能的未来。在OpenAI向世界推出其人工智能驱动的聊天机器人ChatGPT六个多月后，围绕其潜力的担忧引发了兴奋和恐慌，并使其与监管机构不断发生冲突。奥特曼本周没有去过的一个地方是布鲁塞尔，在那里，欧盟监管机构正在制定期待已久的欧盟人工智能法案，这可能是全球首套管理人工智能的规则。两位知情人士称，奥特曼取消了原定对布鲁塞尔的访问。奥特曼周三在伦敦表示：“目前的欧盟人工智能法案草案存在过度监管，但我们听说它将被撤回。”然而，负责制定人工智能法案的欧盟议员对奥特曼的说法提出了异议。罗马尼亚欧洲议会议员德拉戈斯·图多拉切（Dragos Tudorache）表示：“我认为短期内不会出现任何修订。”他补充说：“尽管如此，我们还是很高兴邀请奥特曼先生到议会来，这样他就可以表达自己的担忧，并听取欧洲立法者对这些问题的想法。”欧盟负责内部市场的委员蒂埃里·布雷东（Thierry Breton）也批评了奥特曼的威胁，称规则草案不是用于谈判的。周四，奥特曼将与英国首相里希·苏纳克（Rishi Sunak）和法国总统伊曼纽尔·马克龙（Emmanuel Macron）等多国领导人举行会面，预计OpenAI将更详细地讨论如何监管人工智能。立法者不该被“勒索”荷兰欧洲议会议员金·范·斯巴伦塔克（Kim van Sparrentak,）也参与了欧盟人工智能法案草案的起草工作，她说自己和其他议员“不应该被美国公司勒索”。“如果OpenAI不能遵守基本的数据治理、透明度以及安全要求，那么他们的系统就不适合欧洲市场，”斯巴伦塔克表示。到2月份，ChatGPT创下了历史上所有消费者应用程序中用户增长最快的纪录。OpenAI首次与监管机构发生冲突是在3月份，当时意大利数据监管机构Garante在国内关闭了该应用，并指责OpenAI藐视欧洲隐私规则。在该公司为用户制定了新的隐私措施后，ChatGPT才得以重新上线。与此同时，欧盟立法者在人工智能法案中增加了新的提案，迫使任何使用ChatGPT等生成式人工智能工具的公司披露用于培训其系统的任何受版权保护材料。欧盟议员本月早些时候就该法案草案达成一致，欧盟所属成员国、欧盟委员会和欧洲议会将敲定该法案的最终细节。通过欧盟委员会，法国或波兰等个别成员国也可以在该法案可能在今年晚些时候获得通过之前寻求修改。全力以赴推进计划虽然这项立法已经酝酿了几年，但就在对这些提案进行关键投票的前几周，专门针对生成式人工智能工具的新条款才被起草出来。此前有报道称，有些立法者最初提议完全禁止使用受版权保护的材料来培训生成式人工智能模型，但这一提议最终被否决，转而支持更严格透明度的要求。图多拉切表示：“这些规则主要与透明度有关，这确保了人工智能和构建它的公司是值得信任的。我看不出有哪一家公司会回避透明度。”Pinsent Masons律师事务所的技术合伙人尼尔斯·劳尔（Nils Rauer）表示，奥特曼在立法者审议他们的提案时发表了上述言论，这“并不令人感到意外”。“OpenAI不太可能背弃欧洲，毕竟欧盟在经济上太重要了，”他说。“你不可能将拥有近5亿人口和15万亿欧元(约合16.51万亿美元)经济规模的单一市场分割出去。”奥特曼周四在德国慕尼黑表示，他已经与德国总理奥拉夫·朔尔茨（Olaf Scholz）会面。德国欧洲议会议员谢尔盖·拉戈丁斯基（Sergey Lagodinsky）也参与了这项立法，他说，虽然奥特曼可能正试图在各个国家之间推动他的议程，但布鲁塞尔监管这项技术的计划正在“如火如荼地推进”。“当然，可能会有一些修改，”他说。“但我觉得他们不会改变整体轨迹。”（小小） ...
业界动态 2023-05-26 08:23:59 -
福特CEO：比亚迪等中国汽车制造商是我们最大竞争对手
5月26日消息，福特汽车首席执行官吉姆·法利(Jim Farley)周四表示，该公司在电动汽车领域最大的竞争对手不是美国领头羊特斯拉或跨城竞争对手通用汽车，而是中国汽车制造商。法利在美国投行摩根士丹利举行的可持续发展金融峰会上说，像“股神”沃伦·巴菲特（Warren Buffett）支持的比亚迪这样的中国公司，在电动汽车方面领先于美国大型汽车制造商和初创公司，特别是在电池化学和其他新兴技术方面。法利表示：“我们认为中国汽车制造商才是我们的主要竞争对手，而不是通用或丰田。”他把比亚迪作为中国汽车制造商成功开发和销售电动汽车的典范，首先是在中国，现在正进军欧洲市场。当被问及哪家公司在电动汽车方面做得最好时，法利说：“我喜欢比亚迪。这家公司是完全垂直整合的，积极进取，给人留下深刻印象。 ”市场预测服务专业调查公司LMC Automotive的数据显示，比亚迪在中国的销量从2015年的44.5万辆增长到去年的近200万辆，使其成为中国销量前五的汽车制造商之一。法利的评论与许多行业专家和投资者一致，他们都看好比亚迪以及其他中国汽车制造商的未来增长前景。Storebrand Asset Management投资组合经理菲利普·里普曼(Philip Ripman)上周表示：“无论是从电动汽车的角度来看，还是从电池生产的角度来看，比亚迪都拥有巨大的市场份额。”里普曼管理着价值10亿美元的Storebrand Global Solutions可持续发展基金，他强调了比亚迪在更便宜的钠离子电池技术方面取得的发展，这项技术可能会取代锂电池。他指出，这些技术可能会被用在比亚迪价格更实惠的电动汽车上，并有助于提高该公司的利润率。法利也指出，与美国目前的锂离子电池行业标准相比，比亚迪的电池更具优势。今年早些时候，福特宣布与宁德时代展开新的合作，斥资35亿美元在密歇根州建造新工厂，生产更便宜的电池。这座工厂将生产新的磷酸铁锂电池，而不是福特目前使用的价格更高的锂镍钴锰电池。福特公司预计，新工厂将于2026年投入运营，雇佣约2500名员工。法利赞扬了比亚迪在推进这项技术进步方面所发挥的作用。他说：“比亚迪现在的规模比特斯拉大得多，他们开发了LFP技术，这是一种更好的电池。” （小小） ...
业界动态 2023-05-26 08:17:10 -
网易CEO丁磊谈AI大模型竞赛：找到应用场景、服务用户需求才是“胜者”
5月25日，网易发布2023年第一季度财报。一季度，网易净收入250亿元，非公认会计准则下归属于公司股东的净利润76亿元，公司业绩稳健增长，超市场预期。网易Q1研发投入37亿元，研发投入强度达15%。财报发布后，网易CEO丁磊、CFO杨昭烜等高管出席财报电话会，解读一季度业绩以及关于游戏、音乐、AIGC及海外市场相关的布局情况。发展AI大模型首要任务：找出应用场景、满足用户体验投资人问及网易在AI大模型领域的研发投入和布局逻辑时，网易CEO丁磊表示，未来，随着AI大模型的发展，企业会逐渐找到优化路径，不断降低大模型研发所需的资金和算力。同时，丁磊认为，在AI大模型竞赛中，真正的胜者是能选择好应用场景的企业。所以，目前网易的首要任务是探索AI大模型在不同产品场景下的应用，并研发出更符合用户体验的优质产品。针对游戏市场竞争格局，网易CEO丁磊表示，今年以来市场上涌现出许多新游戏，但消费者只会选择高质量的作品。对于网易来说，最重要的事情之一是在产品中始终保持与众不同的创新，无论是创新玩法，还是应用新技术，来不断满足用户的需要。“我们有信心在未来的发展中始终保持独特的优势”。《蛋仔派对》每周新增百万UGC地图 将加快出海步伐今年一季度，基于网易自研引擎开发的《蛋仔派对》，开创了独特的UGC内容共创模式。超3000万日活玩家，可借助《蛋仔派对》UGC地图编辑工具创作游戏内容，并通过社交媒体进行二次破圈传播。目前《蛋仔派对》每周平均新增超百万UGC地图，玩家的创作热情助力《蛋仔派对》在一季度登顶中国iOS下载榜，也进一步巩固了《蛋仔派对》高粘性、强社交的内容生态壁垒。在国内取得成功后，《蛋仔派对》将瞄准国际市场，加快出海步伐。网易高管在财报电话会上表示，《蛋仔派对》已在东南亚等地试运营，收集了本地玩家的体验反馈。下一步，网易将继续强化《蛋仔派对》独特的UGC玩法体验，让更多海外玩家感受到国产自研游戏的魅力。针对海外市场布局的相关问询，网易高管在财报电话会上披露，目前网易在海外已布局超过10个工作室。网易可以和这些经验丰富的海外团队一起工作、分享成功的创作经验，实现双赢。同时，公司有信心在未来一段时间里，海外工作室可以推出备受瞩目的作品，同时服务好中国及海外市场。网易云音乐毛利率创新高、付费用户持续增长，独立音乐人超63万一季度，网易云音乐业绩健康发展，毛利率从去年同期12.2%，大幅提升至22...
互联网 2023-05-25 22:12:52 -
专访NDV创始合伙人Jason：香港新政将使加密货币中心重回东方
界面新闻记者｜司马林威随着香港虚拟资产新政即将落地，允许散户投资者交易比特币、以太坊等加密货币，香港作为亚洲加密货币潜在中心的引力越来越强。受此影响，金融机构加紧布局加密货币领域，其中亦不乏从知名投资机构、家办等转身跃入加密货币世界的创业者。他们年轻、出身金融背景、有丰富投资经验。在他们眼中，现在的加密货币正如2000年时的互联网、2012年时的移动互联网，是不可错过的黄金时机。出身蓝池资本、拥有十年VC和创投经历的黄宇——在Web3世界他更多以Jason的名字露面——正是这样一位典型代表。身为NextGen Digital Venture Limited（NDV）创始合伙人，今年35岁的Jason Huang毕业于北京大学经济学院，获经济学和历史双学位，曾先后任职于华兴资本、启明创投等机构。创业前他在蓝池资本——由马云以及蔡崇信等联合设立的家族办公室——负责中国投资。紧随香港逐步放开虚拟资产的交易与投资，NDV亦宣布旗下第一期专注于加密货币的Next Generation Fund获得又一笔500万美元的基石投资。NextGen一期基金由NDV与加密货币财富管理公司Metalpha Technology Holding Ltd（纳斯达克股票代码：MATH）合作成立，提供了一个受监管和合规的渠道，让投资者可以直接投资于Grayscale Investments LLC的产品，也可以通过与Grayscale产品相关的结构性衍生品进行间接投资。该基金正在从全球投资者中筹集1亿美元的资金，并在2023年3月获得了2000万美元的资金认购。NDV创始合伙人Jason于近日就该基金的成立初衷、投资策略、加密资产的合规配置等话题接受了界面新闻专访，并从全球宏观形势、加密货币行业的周期以及如何控制加密货币投资风险方面给出了他的思考。以下是专访内容，编后有一定删减。界面新闻：2022年FTX倒闭后，加密货币行业动荡不止，为什么会在这个节点离开家办，投身到加密货币投资领域？Jason：整个世界都在动荡，所以我一直在寻找，是否有更多方式能对冲风险。疫情后，我们观察到全球经济形势的不稳定性增加。美国作为储备货币发行权的拥有者，对其权力的滥用导致了流动性的过度泛滥、通胀的上升，进一步加剧了美元金融系统的不稳定性。所有这些因素都推动人们寻求多元化的资产配置。在长线的资产配置中，合规的重要性是大于收益的，也观察到目前市面上缺乏合规的渠道去配置这个资产类别，因此我决定转向加密货币投资领域。关于行业动荡，我的看法更多是“危中有机”。我是学历史的，所以习惯从历史中找规律和答案，今天加密货币经历的动荡和2000年互联网泡沫有相似之处。2000年初，互联网股票的泡沫在纳斯达克达到顶峰时，纳斯达克指数接近5000点，又在2002年底曾跌至1100点左右，下跌幅度达到了78%。但在这个危机后，苹果和亚马逊的股票都从低点反弹了几十甚至上百倍。今天的加密货币其实同理，高点回撤75%以后，相比起牛市时人声鼎沸状态下去追高，我更喜欢买在无人问津时，因为这是对LP和对自己最大的负责。界面新闻：VC和家办的经验对你管理加密货币基金有什么帮助？Jason：家办的经历让我更在意合规和现金回报。作为前LP，我明白在安全的前提下追求回报是LP的首要需求。我们的基金架构采用了香港9号牌，属于香港证监会监管下的基金，全流程合规而且安全。另外，基金运营周期设定为4年，与比特币的周期相一致，以实现适时退出并为LP提供现金回报。作为前TMT VC投资人，我相信强网络效应的产品有巨大的增长空间。当前比特币用户约1亿，其有潜力成为覆盖超过10亿用户的全球网络。比特币本身就是加密货币世界最大的超级应用。简而言之，家办经验使我理解LP需求，而VC背景让我看到市场的未来。比特币就像10年前的腾讯一样，它是一个高增长行业中的绝对头部资产，同时具有良好的流动性。这两方面的经验构成了我管理加密货币基金的核心思路：合规、适时退出，以及坚信网络效应的增长潜力。界面新闻：自加密货币诞生后，围绕着它的讨论与争议一直没有停过，你们如何定位以比特币为代表的加密货币？Jason：今天比特币更多是一种避险资产。我常常给人这么讲这样一个观点：事实上殖民主义在世界上从未消失过。第一代殖民帝国是大英帝国，他们统治世界的方法是开直营店，派总督去全世界各地收税。第二代殖民帝国是美国，他们的做法更先进，相当于是POS机+加盟店的模式去收铸币税，具体的做法就是印钞。我们今天看见的是，美元无限印钞这个行为应该是不可持续了。比特币的发明也是为了应对2008年美国过度印钞的一个产物。我们过去几年看到的美元过度发行、地缘政治的不确定性以及美国银行体系的不稳定性，所有这些因素均对比特币形成了积极的影响。随着美国持续印钞，会开始有更多国家不愿意继续被收割，与美元进行脱钩，进而逐渐形成一个比特币的共识网络。我们已经看到萨尔瓦多使用比特币作为储备货币了，这是一个很好的开始。界面新闻：但是在美联储的货币政策导向下，加密货币市值的波动性非常大，你们是否会担心其风险敞口？Jason：我们一直建议投资者将1%-5%的资产配置在比特币中，作为应对全球形势不确定的对冲策略。事实上，自2008年以来，美联储的资产负债表已经从约0.9万亿美元增长到今年的8...
区块链 2023-05-25 19:39:31 -
谷歌前CEO：人工智能会给人类带来“生存风险”
5月25日消息，当地时间周三谷歌前首席执行官埃里克·施密特（Eric Schmidt）警告称，人工智能可能会导致很多人“受到伤害或者死亡”（harmed or killed），给人类带来“生存风险”，政府需要知道如何确保这项技术不会“被坏人滥用”。当下，人工智能未来走向已经成为技术专家和政策制定者的讨论焦点，他们正在努力探讨人工智能的未来发展趋势以及该如何进行监管...
业界动态 2023-05-25 08:01:30 -
OpenAICEO：马斯克教会我投资科技领域但对移民火星不感兴趣
5月25日消息，当地时间周四，人工智能研究公司OpenAI联合创始人兼首席执行官萨姆·奥特曼（Sam Altman）在伦敦大学学院发表演讲，谈到了他与埃隆·马斯克（Elon Musk）的关系。奥特曼非常感激马斯克教会他如何投资科技领域，但他对移民火星不感兴趣...
业界动态 2023-05-25 07:47:58 -
AIGC创新社沙龙｜易企秀CEO黄金：AIGC时代大量机会将诞生于应用层
【网易科技5月24日报道】近日，网易科技《AIGC创新社》沙龙活动正式举行，本场活动以《AIGC重塑内容生产力》为主题，汇聚了知名创业者、投资人以及证券分析。其中，易企秀CEO黄金带来现场分享，主题为《当AIGC遇上数字自营销》，现场反响热烈...
智能设备 2023-05-24 11:21:56 -
ChatGPT重塑Windows！操作系统全面接入，Bing也能用插件了
金磊 丰色 西风 发自 凹非寺量子位 | 公众号 QbitAI一夜之间，微软彻底重新定义了PC交互。因为这一次，它把Bing和ChatGPT插件的能力，注入到了整个Windows系统！这就是在刚刚结束的Build 2023中，微软重磅推出的Windows Copilot。有了它，想让自己的PC变得更适合工作，就只需要一个简单的动作——问：如何调整我的系统，（以便更好地）来完成工作？然后Windows Copilot“啪的一下”就会给你2个建议：开启Focus Sessions功能（Windows11利于专注工作的新功能）。把系统变成深色模式。此时，若是你觉得建议有用，只需点击一下“yes”，一键就可以让系统变成你想要的样子。把桌面上的PDF“喂”给Windows Copilot，总结文档内容，也就是点下鼠标的事情了。不仅如此，Windows Copilot还可以跟你电脑里所有的App来一个联动。例如问它：什么音乐比较适合工作的时候听？它会立即在Spotify中给你推荐几个音乐播放列表，而我们所要做的，依旧是一个点击的动作而已。并且在各种插件的加持之下，像做logo这样的工作，就变成傻瓜式的“问”、“点击”、“拖拽”。微软在现场也直接道出了此举背后的目的：Make every user a power user.让每个用户都是高级用户。而且对于开发者来说，或许Windows Copilot的玩法会变得更有意思。因为它允许Bing或ChatGPT插件对它进行扩展。如此一番“大秀”之下，引得网友直呼“AI将无处不在”：不过Windows Copilot，也仅仅是微软Build 2023中“上新”的一隅。Bing，引入到ChatGPT了从现在起，不止是Bing里有GPT-4，ChatGPT里也有Bing了。这个模式叫做“使用必应进行搜索（Browsing with Bing）”，和不久前刚刚上线的插件功能在一个列表中。这个功能已经对plus用户开启，免费版的很快也将上线。勾选上该模式之后，你就可以进行一些基于必应的实时查询了。比如问ChatGPT：本周的Build大会，关于...
智能设备 2023-05-24 10:50:10 -
昨晚，史上最伟大的Windows来了
今日看点9min read昨晚，史上最伟大的 Windows 来了宛辰2023/05/24摘要2023 Build 上，微软公布了 AI 服务 Copilot 全家桶，其中最引人关注的就是 Windows Copilot。2023 年微软 Build，注定是载入史册的一届...
智能设备 2023-05-24 10:48:22 -
微软CEO纳德拉宣布：Windows的“AI时刻”来了
①微软将在本周的Build大会上发布50余款产品，纳德拉在周二的揭幕演讲中着重提到5款产品； ②通过Windows Copilot，用户可以使用自然语言调整设置，并调动整个Windows生态系统的软件； ③其他更新包括通用AI插件平台、云AI工作室等。 财联社5月24日讯（编辑 史正丞）北京时间周三凌晨，微软Build年度开发者大会正式揭幕...
智能设备 2023-05-24 10:48:18 -
微软叠buff！CopilotAI助理链接Bing并可用于所有Windows应用
【网易科技5月24日报道】微软昨日在其年度 Build 开发者大会上宣布推出Windows Copilot系统级的AI助理，它集成了Bing搜索功能，并可用于Windows的所有应用。此外，微软同步引入了一系列其他AI增强功能，包括将Bing Chat插件扩展到Windows、引入新的混合AI循环以支持跨平台和跨Azure的AI开发、推出Dev Home以提高开发人员的工作效率，并在Microsoft Store中引入新的AI功能和体验...
智能设备 2023-05-24 09:40:19
