通过XAI新工具理解人工智能的决策路径.pdfVIP

环球纵览

GlobalView

通过XAI新工具

理解人工智能的决策路径

■本刊记者李白咏︱文

我们在使用像ChatGPT这样的大语言模型（LLM）作为输入，并且没有足够的上下文来进行判断，它可

时会发现，其给出的各种回答未必就是真实的，即此能会根据这些信息生成类似的回答。这也是为什么在

类AI模型会“虚构事实”，对于准确性要求较高的信息，使用LLM时，特别是对于需要准确信息的问题，用户

最好通过其他可信的来源进行验证。此外，由于其运需要保持批判性思维并在需要时对相关信息进行核实。

行的“黑箱”性，普通用户往往无法判断自己输入的例如，当《科学美国人》的工作人员向ChatGPT

什么内容导致LLM给出了特定的回答，从而无法有提问该刊物的德语姐妹出版物——《Spektrumder

效地通过修改输入来改善结果的质量。而现在，通过Wissenschaft》的主编是谁时，得到的答案是：“我

一种名为“可解释的人工智能”（ExplainableAI，