编者按： 在AI浪潮席卷全球的今天，就连最精明的富豪阶层也开始迷信ChatGPT等工具的法律建议，结果却频频翻车——有人把已故配偶当成信托对象，有人泄露隐私面临法律风险。这些荒诞又真实的案例，揭露了人工智能在专业领域“一知半解”的致命伤。本文通过多位顶级律师的亲身经历，揭开AI“伪装”下的常识漏洞：它可能给出看似完美的方案，却因缺失最关键的信息（比如“配偶是否健在”）而彻底跑偏。更危险的是，用户往往被廉价便捷冲昏头脑，连核心问题都没搞清就盲目套用，最终陷入“垃圾进，垃圾出”的死循环。别让虚假的“知识幻觉”绑架你的判断力——专业的事，终究要交给人来办。
律师塔莎·迪金森表示，她每周都会接到客户的电话，询问有关从ChatGPT、Claude或其他人工智能聊天机器人那里获得的法律建议。有些人不承认，但她能从对方的提问方式中看出来。
她提到，一位佛罗里达州的高净值客户曾咨询如何设立夫妻共同财产信托——这对已婚夫妇来说很有吸引力——并称这是AI建议的省税方案，以便给继承人省钱。迪金森立刻指出问题：客户的妻子不久前去世了。
“我说，‘嗯，您知道夫妻共同财产信托只适用于丈夫和妻子之间，对吧？’电话那头沉默了，”Day Pitney律所合伙人迪金森说，“他们就说，‘哦，好吧，AI觉得这是个好策略。’嗯，从理论上来说，也许是个好策略，但对你来说可不是。”
为富人服务的律师告诉Inside Wealth，他们的客户越来越多地使用AI，不仅用来研究税务话题，还会质疑律师的建议。一些律师表示，AI能帮助客户提出有见地的问题并学习基本概念，但他们也认为这带来了麻烦和法律风险。
Weinstock Manion律所合伙人罗伯特·斯特劳斯说，几位客户将信托文件上传到AI系统后，带回了一大堆问题和修改建议，迫使他为自己的工作辩护，并解释为何AI的建议不适合客户的情况。
“提出问题没问题，但结果是我们在这件事上花的时间比平常多得多，”他说，“我们最终花了二、三、四个小时处理那些到目前为止一点成效都没有的东西。实际上，我从那个过程中没有得到一个可行的建议。”
结果，他说，客户对律师缺乏信任。
更令人担忧的是，斯特劳斯指出，客户正在向大型语言模型分享敏感信息，这引发了数据隐私问题和法律陷阱。斯特劳斯表示，他所在的公司目前正在修改客户合同，以警告客户使用这类AI聊天机器人可能导致律师-客户特权失效。
今年二月，一名联邦法官裁定，一名刑事被告与Claude就其法律辩护策略进行的对话不受律师-客户特权保护。
“关于AI，让我夜不能寐的是什么？不是AI有时会犯错，因为我能纠正那些错误。也不是人们用AI来核实我的工作，因为我对自己的工作很有信心，”迪金森说，“我担心的是，当人们把文件上传到AI并进行这些搜索时，他们放弃了自己的律师-客户特权，这是一个大问题。”
亨廷顿银行财富策略主管丹·格里菲思警告说，向聊天机器人询问如何通过婚前协议保护资产，或如何以较低税负出售企业等，可能会在法庭上被用来对付你。
格里菲思表示，尽管高净值客户通常可以接触到——并且负担得起——最好的法律建议，但他们和我们其他人一样，也享受AI的便利。
迪金森补充说，节省成本仍是一个吸引力。（她表示：“花钱买专业服务并不好玩。”）她还说，她很多客户都是自信的企业家。
“我们很多客户都取得了巨大成功。我是说，他们很聪明，对吧？而且他们求知欲强，”她说，“我认为有些人会错误地假设自己对这方面了解得比实际更多。”
她说，使用这些AI工具“会给人一种虚假的知识感。”
在某种程度上，这并不是一个新问题。客户经常会向律师提出他们从乡村俱乐部朋友或一篇文章中得到的建议。迪金森把这形容为“鸡尾酒会闲聊的升级版。”
而且，这种趋势并非单方面。许多律师在工作和生活中也会使用AI。这导致了一些头条新闻级别的失误，比如诉状中出现虚假引用。
但律师们表示，很少有客户对AI和法律足够熟悉，能写出有效的提示词。
Withers律所的埃德·雷恩举了一个例子：一位客户根据ChatGPT的建议，想把无限资产转给配偶。然而，雷恩说，客户没有提到他的妻子是外国出生的，这意味着如果没有特殊类型的信托，他就不能享受无限婚姻扣除。
“如果你不太清楚自己在做什么，那就是垃圾进，垃圾出，”他说。
雷恩补充说，AI工具在复杂话题上似乎更容易犯错，比如国际税务，并且无法跟上最新的立法或美国国税局的指引。
格里菲思表示，决定如何将财富转移给亲人需要比ChatGPT准备的更复杂的讨论。他说，例如，在决定如何在第一段婚姻的子女和第二任配偶之间分割资产时，很少能有简单的答案。
“如果你的客户问，‘嘿，如果我设立这个信托，我的儿子将来能不能动用我给他的资金？’答案不应该是‘是’或‘否’。答案应该是，‘多跟我说说你和你儿子的关系，或者情况是什么样的？’”他说，“AI往往非常注重解决方案，并试图找到某种方式给出肯定答案。它没有很好地做到这一点：’你知道吗？让我们先搞清楚你问题的核心是什么。’”
