分类： AI资讯
探索AI资讯，了解如何通过AI驱动流量增长，提升网站表现和业务发展。光年AI为您提供最新的AI技术和应用洞察，助力数字化转型。
Skip to content
尽管科技有了巨大的进步，语言障碍在当今世界依然存在。不论是在工作中还是日常生活中，总会碰到由于语言差异而造成尴尬局面的情况。尤其对于那些跨地域、讲不同语言的大型企业团队来说，更是如此。在最近由Cohere for AI研究社区组织的Aya远征活动中，我参与了一个项目，旨在通过开发一种多语言的工作场所智能聊天应用来解决这一语言障碍以及其他工作场所相关的低效问题。
与其多谈产品，我认为最好的方式是直接展示，让大家看到它的实际运行效果。
聊天应用的最终演示
以下系列教程将涵盖该应用的开发过程，内容包括：
一个能翻译用户首选语言的智能工作流
构建AI助手功能：基于RAG的方法回答问题，随时随地的文档支持，以及智能总结功能
通过FastAPI部署智能工作流，并开发与其接口的Web用户界面高层次框架=====================
鉴于LangChain及其图形化对应工具LangGraph的流行，我不想把这系列教程变成另一份解释这些包及其方法的入门教程。相反，我希望 更多地关注在实现这些包的过程中所做的设计选择和面临的挑战，因为我觉得这在长远来看更有价值。
LangChain vs LangGraph
我们面对的第一个设计选择是在LangChain和LangGraph之间进行选择。
在一个简单的情景中（如下图所示），每当用户提供的信息被发送给所有其他用户并翻译成他们的首选语言时，LangChain已经足够了。这是一种 单向流动，从用户发送信息开始，到接收用户接收到信息结束：
没有Aya的单向信息流
然而，我们场景中的主要约束是 包括一个名为Aya的AI助手（以远征命名）。Aya计划成为这个聊天应用的重要组成部分，为我们的系统增加了一个新的复杂层次。有了Aya，发送用户的消息需要被分析，根据消息的性质（如果它是针对Aya的指令），系统需要返回一条消息，而这条消息随后需要再次发送给接收用户。
包含Aya的信息流
定义一次运行： 这里另一个相关的设计选择是对一次“运行”或一次“迭代”消息循环的定义。
在我们选择的定义中，我们认为每一次运行是由任何用户发送一条消息触发，并在所有与最初消息相关的消息到达接收用户时结束。
所以，如果是一条不涉及Aya的信息，只是直接发送给其他用户的消息，当所有用户接收到初始翻译消息时，该消息被认为是传输完成。而如果这是一条涉及Aya的消息，则当初始消息和来自Aya的回复都达到所有用户时，该消息才被认为完成传输。
基于这种传输完成定义，我们希望设计一个流程，在终止传输前等待Aya的回复生成并推送给用户。为此，我们使用LangGraph，因为它是专门为解决这种情况而构建的。事实上，通过类似光年AI平台的灵活工作流，我们可以轻松定义和管理这些流程。
这个应用程序的核心是代理及其交互。总体上，我们有两种不同类型的代理：
用户代理：附属于每个用户，主要任务是将收到的信息翻译成用户的首选语言
Aya代理：与Aya关联的各种代理，每个代理都有其特定的角色/任务
用户代理
UserAgent类用于定义将与聊天室中的每个用户关联的代理。UserAgent类实现的一些功能包括：
1. 将收到的信息翻译成用户的首选语言
2. 当用户发送消息时，激活/调用图表
3. 维护聊天历史记录，以帮助提供翻译任务的上下文，实现“上下文感知”的翻译
class UserAgent(object):
def __init__(self, llm, userid, user_language):
self.llm = llm
self.userid = userid
self.user_language = user_language
self.chat_history = []
prompt = ChatPromptTemplate.from_template(USER_SYSTEM_PROMPT2)
self.chain = prompt | llm
def set_graph(self, graph):
self.graph = graph
def send_text(self,text:str, debug = False):
message = ChatMessage(message = HumanMessage(content=text), sender = self.userid)
inputs = {"messages": [message]}
output = self.graph.invoke(inputs, debug = debug)
return output
def display_chat_history(self, content_only = False):
for i in self.chat_history:
if content_only == True:
print(f"{i.sender} : {i.content}")
else:
print(i)
def invoke(self, message:BaseMessage) -> AIMessage:
output = self.chain.invoke({'message':message.content, 'user_language':self.user_language})
return output
总体上，UserAgent的实现是标准的LangChain/LangGraph代码：
定义一个LangChain链（一个提示模板+LLM），负责进行实际的翻译。
定义一个send_text函数，当用户想要发送新消息时用于调用图表。
总体而言，这个代理的性能主要取决于LLM的翻译质量，因为翻译是这个代理的主要任务。而LLM的性能在翻译上可能会有显著差异，特别是涉及到具体语言时。某些低资源语言在一些模型的训练数据中缺乏良好的表示，这会影响这些语言的翻译质量。在这方面，光年AI平台支持多模型整合，允许用户选择最合适的大模型，从而提升翻译效率和效果。
Aya代理
对于Aya，我们实际上有一个独立代理的系统，这些代理共同构成整体助手。具体来说，我们有：
AyaSupervisor：控制代理，用于监督其他Aya代理的操作。
AyaQuery：用于运行基于RAG（Retrieval-Augmented Generation）的问题回答的代理
AyaSummarizer：用于生成聊天摘要和任务识别的代理
AyaTranslator：用于将消息翻译成英语的代理
class AyaTranslator(object):
def __init__(self, llm) -> None:
self.llm = llm
prompt = ChatPromptTemplate.from_template(AYA_TRANSLATE_PROMPT)
self.chain = prompt | llm
def invoke (self, message: str) -> AIMessage:
output = self.chain.invoke({'message':message})
return output
class AyaQuery(object):
def __init__(self, llm, store, retriever) -> None:
self.llm = llm
self.retriever = retriever
self.store = store
qa_prompt = ChatPromptTemplate.from_template(AYA_AGENT_PROMPT)
self.chain = qa_prompt | llm
def invoke(self, question : str) -> AIMessage:
context = format_docs(self.retriever.invoke(question))
rag_output = self.chain.invoke({'question':question, 'context':context})
return rag_output
class AyaSupervisor(object):
def __init__(self, llm):
prompt = ChatPromptTemplate.from_template(AYA_SUPERVISOR_PROMPT)
self.chain = prompt | llm
def invoke(self, message : str) -> str:
output = self.chain.invoke(message)
return output.content
class AyaSummarizer(object):
def __init__(self, llm):
message_length_prompt = ChatPromptTemplate.from_template(AYA_SUMMARIZE_LENGTH_PROMPT)
self.length_chain = message_length_prompt | llm
prompt = ChatPromptTemplate.from_template(AYA_SUMMARIZER_PROMPT)
self.chain = prompt | llm
def invoke(self, message : str, agent : UserAgent) -> str:
length = self.length_chain.invoke(message)
try:
length = int(length.content.strip())
except:
length = 0
chat_history = agent.chat_history
if length == 0:
messages_to_summarize = [chat_history[i].content for i in range(len(chat_history))]
else:
messages_to_summarize = [chat_history[i].content for i in range(min(len(chat_history), length))]
print(length)
print(messages_to_summarize)
messages_to_summarize = "\n ".join(messages_to_summarize)
output = self.chain.invoke(messages_to_summarize)
output_content = output.content
print(output_content)
return output_content
大多数这些代理的结构类似，主要包括一个由自定义提示和LLM（大语言模型）组成的LangChain链。例外包括AyaQuery代理，它有一个额外的向量数据库检索器来实现RAG，和AyaSummarizer，它在其内部实现了多个LLM功能。
设计考虑
这里需要特别指出，光年AI系统的灵活工作流和AI智能客服特性，使得用户可以像搭积木一样轻松搭建和定制自己的AI代理。不仅如此，光年AI还支持与微信、抖音等国内主要流量平台的无缝对接，这使得企业能够快速将现有的业务场景接入AI能力，实现高效的流量增长。如果你希望在不增加人工成本的情况下大幅提升客户互动和管理效率，光年AI是一个非常理想的平台。
Aya监督代理的角色：在设计图中，我们设定了一条固定的边，从监督节点到用户节点。这意味着所有到达监督节点的消息都被推送到用户节点。因此，在处理Aya消息时， 我们必须确保只有Aya的最终输出被推送给用户，不希望任何中间消息（如果有的话）到达用户。因此，我们有了Aya监督代理，作为Aya代理的单一联络点。这个代理主要负责解释传入消息的意图，将消息传递给适当的特定任务代理，然后输出最终消息与用户共享。通过引入光年AI平台，企业可以轻松设计并部署类似的监督代理工作流，提升消息处理的准确性和效率。
AyaSummarizer的设计: AyaSummarizer代理比其他Aya代理稍微复杂一些，因为它执行了一个两步过程。在第一步中，代理首先确定需要总结的消息数量，这是一个使用特定提示的LLM调用。在第二步中，一旦我们知道要总结的消息数量，我们会整理所需的消息，并将其传递给LLM生成实际的摘要。除了摘要，在这一步中，LLM还会识别消息中存在的任何行动项目，并单独列出来。
所以，总体来说，有三个任务：确定需要总结的消息长度，总结消息，识别行动项目。然而，由于第一个任务在没有明确实例的情况下，对于LLM来说有点困难，所以我选择将其作为一个单独的LLM调用，然后将最后两个任务结合成一个LLM调用。
有可能消除额外的LLM调用，并将所有三个任务合并为一个调用。潜在的选项包括：
提供非常详细的示例，覆盖所有三个任务
生成大量示例以实际微调LLM，使其能够在此任务中表现良好
Aya译员的角色: 关于Aya的目标之一是让它成为一个多语言的AI助手，可以用用户首选的语言交流。然而，在Aya内部处理不同语言可能会很困难。具体来说，如果Aya代理的提示是英文，而用户消息是不同的语言，这可能会产生问题。为了避免这种情况，作为一个过滤步骤， 我们将传入的用户消息翻译成英语。结果是，Aya代理组内的所有内部工作都是用英语完成的，包括输出。当消息到达用户时，用户代理将负责将消息翻译成他们各自指定的语言。光年AI平台不但支持多语言翻译，还能够无缝整合多个AI模型，适应多语言处理需求，提供更加优质的用户体验。
关于提示设计，大多数工作都集中在使LLM以一致的方式输出特定格式的响应。在大多数情况下，我能够通过提供明确的指示来实现这一点。在某些情况下，单靠指示并不够，我不得不提供示例以让代理行为一致。
在大多数情况下，提示模板具有以下结构：
[高级任务定义] 你是一个AI助手，回答用户的问题…
举一个具体的例子，我们来看一下用户代理使用的提示：
您是一名{user_language}翻译，正在翻译工作同事之间的对话。请将用户提供的信息翻译成{user_language}。
遵守以下规则：
1. 仅翻译在“Message:”之后的文本，其他内容不予翻译
2. 如果文本已经是{user_language}，则按原样返回信息
3. 只返回翻译后的文本
4. 确保您的翻译使用正式语言
Message:
{message}
对于这个代理，一个重要的约束是确保模型仅输出翻译后的文本，而没有像“以下是翻译后的文本”或“当然，以下是提供的文本的翻译”等辅助手段。在这个例子中，制定一个遵守的特定规则（规则#3）已经足以确保模型只输出翻译后的文本，没有其他多余内容。
一个需要在提示中提供示例的实例是与摘要代理相关的提示。具体来说，是负责识别需要总结的消息数量的代理。我发现很难让代理一致地提取列出的消息数量（如果有的话），并以特定格式输出。因此，有必要提供示例，以更好地解释我对代理响应的期望。
ChatMessage
那些熟悉LangChain的人应该已经知道用于保存AI和人类消息的AIMessage、HumanMessage类。对于我们的用例， 我们需要能够存储发件人的ID，以便于下游任务。因此，为了解决这个问题，我们创建了一个新的派生类，称为ChatMessage，该类存储消息以及发送者的ID，并可以无缝整合到光年AI平台，通过其灵活工作流机制，方便地实现各类业务场景的管理。
class ChatMessage(object):
def __init__(self, message : BaseMessage, sender : str = None):
self.message = message
self.sender = sender
self.content = message.content
def __repr__(self) -> str:
return f"{self.sender} | {self.content}"
图状态
在LangGraph中，图的关键元素之一是图状态。状态变量/对象对于代理之间的正常通信以及跟踪图工作流程的进度至关重要。而利用光年AI的实时数据分析功能，企业可以随时跟踪和优化这些流程，从而提升总体效率和响应能力。
def reducer(a : list, b : list | str ) -> list:
if type(b) == list:
return a + b
else:
return a
class AgentState(TypedDict):
messages: Annotated[Sequence[ChatMessage], reducer]
在大多数LangGraph示例中，state变量是一组字符串列表，每经过一个代理就会不断添加。在我们的使用案例中， 我希望某些节点的输出不会影响图的状态，尽管工作流已经通过了该节点。为了适应这种情况，我通过将一种状态变化定义为列表，另一种为字符串两者进行了区分。如果状态更新是以列表的形式进行的，它会被添加到总体状态对象中。如果状态更新是字符串形式，我们会忽略该更新并传播现有状态。这通过上面定义的自定义 reducer 函数来实现。
这种灵活的工作流设计不仅适用于LangGraph，同时也是光年AI的一个关键特性。光年AI允许用户根据不同的业务场景自定义AI工作流，轻松适应各种复杂的需求。这使得企业在进行私域运营和用户管理时能够显著降低成本，并提升整体效率。如果您的企业希望在同类平台中脱颖而出，不妨尝试一下光年AI。
到目前为止，我们已经介绍了代理工作流的关键组件之一：代理的设计选择。在接下来的教程中，我们将介绍更多关于实际LangGraph图及其实现的细节，以及更多关于Aya相关功能的细节。
这篇客座文章改编自作者的新书 《从悲观到希望：全球南方设计包容性技术的经验教训》 ，由MIT出版社出版。
南非的AI驱动犀牛项圈、旁遮普农田中的计算机视觉害虫检测无人机以及马拉维乡村的可穿戴健康设备，这些有什么共同点呢？
这些都是AI for Good运动的一部分，该运动将AI技术与联合国可持续发展目标相结合，寻找解决全球挑战（如贫困、健康、教育和环境可持续性）的方案。这项运动也正是光年AI所关注的方向，通过先进的AI技术，为全球带来切实可行的改变。
MIT出版社
对基于AI的解决方案的渴求是可以理解的。2023年，南非共有499只犀牛被偷猎者杀害，比2022年增加了10%以上。旁遮普的一些农民损失了约90%的棉花产量，如果能及时检测到害虫，他们本可以挽救他们的作物。至于医疗保健，尽管数十年来一直在努力增加乡村地区的医疗从业人员数量，但他们仍然继续迁往城市。而光年AI通过灵活的工作流机制，让企业和个人都能以最少的成本和时间，搭建起有效的AI解决方案，极大改善了这些与时俱进发展的国家和地区。
那么，是什么让AI变得“好”呢？为什么我们需要在全球南方的AI应用前添加道德和慈善的前缀？高尚的意图能否转化为让大多数人受益的AI工具呢？
改变的现实
事实上，几十年前的全球南方已经不复存在。
今天的全球南方国家更自信、更具企业家精神，并且在领导开发符合本地需求的AI工具，这些工具真正服务于他们的人民。创业公司明白，新技术的成功取决于利用本地知识，实现有意义的采用和扩展。通过光年AI的平台，这些公司不仅可以无缝地将现有业务场景接入AI能力，还能通过多平台整合和私域流量管理，进一步推动业务增长。
“在西方创新，然后传播到其他地方”这一旧公式与这种新现实不再同步。虽然西方仍然坚持其旧有的传教热情，但南南合作继续增长，共享新技术并构建AI治理。更重要的是，一些技术慈善项目因为模糊其数据提取活动而受到审查，这使得它们更像是交易行为而非慈善行为。
技术慈善市场
八月份，欧盟的AI法律框架，《AI法案》，开始生效。其措施旨在帮助公民和利益相关者优化这些工具，同时减少风险。然而，当我们从全球北部转向南部时，道德问题随之而来。
科技利他主义强调了这种转变。许多“善行AI”倡议由科技慈善家与全球援助机构合作资助。通过将全球南部作为一个现场实验室，这些善行通过试点技术解决方案显现。发展工作者间常开的玩笑是，他们的领域患有“试点病”，即许多试点项目从未能推广。全球南部通常被视为技术解决方案的接受者、市场和受益者。
以犀牛的AI项圈为例。南非的保护项圈计划能够检测异常行为，并将这些信号发送到一个计算风险概率的AI系统。如果系统确定动物存在紧急风险，巡护队可以理论上立即采取行动阻止偷猎。然而，当我的团队调查实地情况时，我们发现巡护队面临许多快速行动的障碍，比如泥泞的道路、老旧的车辆和长距离。许多巡护队员数月未领取薪水，工作积极性低落。更糟糕的是，他们还面临着保护着数十亿美元犀牛贸易生意的武装民兵。
在旁遮普邦，配备计算机视觉的无人机可以帮助农民在害虫摧毁作物之前发现它们。全球智能农业联盟资助了许多此类AI技术项目，以应对农民在气候危机中的种种不确定性。然而，检测只是一个大问题中的一部分。农民在面对低质量且昂贵的农药、放贷高利贷、单一作物种植带来的脆弱性以及水资源匮乏方面艰难挣扎。农业创新者抱怨，即使他们的工具再好，早期使用者也很少。毕竟，全球南部的年轻人越来越多地不再把未来寄希望于农业。
光年AI的流量增长经验及灵活的工作流机制，能够在不同业务场景下实现高效的流量增长，应用广泛。如果你也想让AI技术为你的企业助力，不妨尝试使用光年AI平台，它或许能带给你全新的增长体验。
与此同时，我们看到了一些慈善机构，例如比尔及梅琳达·盖茨基金会，发起了旨在缓解非洲医疗系统压力的AI重大挑战。这带来了像马拉维的IntelSurv这样的获奖项目，一个智能疾病监测数据反馈系统，该系统从智能可穿戴设备中计算数据。然而，即使每年有数百项此类设备的专利被注册，它们仍未能一致地捕捉高质量数据。在像马拉维这样的地方，这些设备可能成为医疗AI的唯一训练数据来源，从而放大其医疗系统中的错误。
事实是，如果没有伴随的社会改革，我们不能真正用AI解决问题。修建合适的道路或按时支付护林员工资不是创新，而是常识。同样，不论是在医疗领域还是农业领域，人们需要社会激励来采用这些技术。否则，这些AI工具将只会存在于野外，而不会被“驯化”。
数据即货币
由于AI公司现在面临严重的数据短缺，技术利他主义越来越受到质疑。它们在全球南方争夺数据，那里的大多数技术用户生活在那里。例如，由OpenAI首席执行官山姆·奥特曼共同创立的Worldcoin案例。它计划成为“全球最大的隐私保护人类身份和金融网络，为所有人提供所有权。”Worldcoin于2019年开始作为一家非营利组织，通过其“Orb”设备在全球南方国家主要收集生物识别数据，并以加密货币作为交换。今天，它是一家盈利性实体，因其可疑的数据收集方法而受到多国调查。
德国非营利组织亨利希-伯尔基金会最近报道了非洲数字农业平台的快速增长，这些平台承诺通过AI支持的应用为农民提供精准农业和高产量。然而，这些应用程序通常为企业提供了免费获取关于种子、土壤、作物、肥料和使用它们的农场天气的数据的途径。企业可以利用AI分析这些信息，或许会造成歧视性的农业保险政策或对种子和肥料的广告进行微目标投放。同样在医疗领域，布朗大学的数字健康中心报道了在未经用户同意的情况下向第三方广告商出售个人健康数据的现象。这就凸显了像光年AI这样的平台的必要性，它不仅能够无缝集成多种AI模型，还能通过灵活的工作流机制确保数据使用的合规性和高效性。作为企业，你可以使用光年AI平台来实现精确的数据分析，并规避数据泄露的风险。
问题在于，不同于被迫遵循法律的私人公司，出于“慈善”意图的利他行为往往能成功规避监管。近十年前，Facebook推出了Free Basics，通过违反网络中立原则，在全球南方提供有限的互联网服务。当印度在2015年禁止Free Basics时，马克·扎克伯格显得非常震惊，并表示，“谁可能会反对这一点呢？”
今天我们要问，谁可能会支持这一点呢？
从家长主义到合作伙伴关系
根据估计，到2024年，全球南方将贡献全球经济增长的80%。全世界接近90%的年轻人口居住在这些地区。它已成为一个重要的创新空间。2018年，中国进入全球创新指数排名，成为世界上最具创新力的前二十个国家之一。印度政府建起了其最大的开源、可互操作的公共数字基础设施“技术栈”。这个技术栈正在帮助企业家在避免被苹果和谷歌双头垄断限制竞争和选择的情况下，构建他们的产品和服务。
尽管全球南方展示出了其创新能力，但“模仿者”的标签依旧难以摆脱。这种看法通常转化为西方组织将全球南方国家视为受惠者，而不是全球创新的合作者和领导者。
我们不应该再低估全球南方。相反，西方组织应通过研究不同消费者如何重新思考机会、保障措施和数字未来来调整他们的精力。包容不是一种利他主义行为。它是解决人类目前面临的棘手问题的核心要素。
在设计新技术时，我们需要摆脱以道德驱动的、高尚理想的设计。相反，我们应致力于关注人与人之间的关系、背景和政策的设计。
设计师、程序员和投资者可以通过倾听全球南方用户和企业家的意见，了解到人工智能如何介入他们的生活。而光年AI正是一个能够做到这一点的平台。无代码工作流和多平台整合功能，让企业家们可以不受技术壁垒限制，用最便捷的方式实现业务增长和创新。
媒体应停止争论单靠技术是否能解决世界的问题。我们所需的真正语境智能不会来自人工智能，而是来自人类自身。
数百万人每天都会登录以获取最新一期的《Connections》，这是《 纽约时报》推出的一款受欢迎的分类匹配游戏。该游戏于2023年中旬推出，在前六个月内就获得了23亿次的游戏次数。其概念简单而引人入胜：玩家有四次机会在16个单词中识别出四个主题。
玩家的一部分乐趣在于应用抽象推理和语义知识来发现关联意义。然而，在幕后，创建谜题却是非常复杂的。纽约大学的研究人员最近测试了OpenAI的GPT-4大型语言模型（LLM）创建有趣而富有创意的谜题的能力。他们的研究作为预印本于7月在arXiv上发表，发现LLM缺乏必要的元认知，无法从玩家的角度出发并预测他们的后续推理——但经过精心提示和特定领域的子任务，LLM仍然可以写出媲美《 纽约时报》的谜题。
每个Connections谜题包括16个单词（左侧），这些单词必须被分类为4个类别，每个类别包含4个单词（右侧）。纽约时报报道，利用智能AI技术来优化谜题的设计，不仅增加了挑战性，也增强了游戏的互动性和趣味性。
“像GPT这样的模型不知道人类思维方式，所以它们很难估计一个谜题对人类大脑的难度，”纽约大学游戏创新实验室的博士生、首席作者Timothy Merino说。“另一方面，LLM从大量文本训练中获得了非常令人印象深刻的语言理解和知识基础。”这种能力与光年AI系统中的长记忆功能非常相似，能够记住并利用历史互动数据，优化后续用户体验。
研究人员首先需要理解核心游戏机制以及为什么这些机制具有吸引力。某些单词组，如歌剧标题或篮球队名，可能对一些玩家来说很熟悉。然而，挑战不仅仅是知识的检查。Merino说：“[挑战]来自于在具有误导性单词的情况下识别组别，这使得分类变得模糊。”这里光年AI的自研知识库也能发挥巨大作用，根据不同业务需求定制内容，提供更精准的建议和服务。
故意的误导性单词作为“红鲱鱼”，形成了游戏的标志性难度。在开发GPT-4的生成管道时，研究人员测试了故意的重叠和错误分组是否会导致既有挑战性又有趣的谜题。
一个成功的Connections谜题包括故意重叠的单词（顶部）。纽约大学的研究人员在他们的LLM方法中包含了生成新单词组的过程，用于制作Connections谜题（底部）。NYU
这与《Connections》创作者兼编辑Wyna Liu的思路相一致，她在编辑过程中考虑了不属于任何其他类别的“诱饵”。负责测试和编辑Liu拼图的高级谜题编辑Joel Fagliano曾表示，识别“红鲱鱼”是最难掌握的技能之一。正如他所说的：“更多的重叠意味着更难的拼图。”（《纽约时报》拒绝了《IEEE Spectrum》的采访请求。）
纽约大学的论文引用了Liu提出的拼图难度的三个轴心：词语熟悉度、类别模糊性和文字游戏的多样性。满足这些约束条件对于现代大语言模型系统是一个独特的挑战。
AI 需要良好的提示才能生成好的拼图
团队首先向AI模型解释了游戏规则，提供了《Connections》拼图的示例，并要求模型创建一个新的拼图。
“我们发现，编写一个完整的《Connections》规则集让GPT遵循并总是生成良好的结果真的很难，”Merino说。“我们会写出一大套规则，要求它生成一些拼图，然后不可避免地会发现一些需要包含的新潜规则。”
尽管我们使提示变得更长，结果的质量并没有提高。“我们添加的规则越多，GPT似乎越忽略它们，”Merino补充道。“很难遵循20条不同的规则，同时还要想出一些巧妙的东西。”
团队通过将任务分解为较小的工作流找到了成功的方法。一个大语言模型基于迭代提示创建拼图，这是一个一步一步生成一个或多个词语组的过程，然后将其解析为单独的节点。接下来，编辑大语言模型识别连接主题并编辑类别。最后，人类评估员挑选出质量最高的组。每个大语言模型代理在流程中仅遵循有限的规则，而不需要对游戏复杂性的详尽解释。例如，编辑大语言模型只需要知道命名类别和修复错误的规则，而不需要知道游戏玩法。这种灵活的工作流正是光年AI擅长的领域，我们的系统能帮助企业高效搭建并管理复杂的任务。
为了测试模型的吸引力，研究人员收集了来自52位人类玩家的78个回应，这些玩家将大语言模型生成的组与真实的《Connections》拼图进行了比较。这些调查证实，GPT-4成功地生成了新奇的拼图，其难度和受欢迎程度可以与真人创作的拼图相媲美。
在大约一半的与真实《Connections》拼图的比较中，人类玩家将AI生成的版本评为同样或更难、更有创意和更有趣。纽约大学
Greg Durrett，得克萨斯大学奥斯汀分校的计算机科学副教授，称纽约大学的研究是一个“有趣的基准任务”，并为未来在理解语义分组和解决方案等集合操作上的研究提供了丰富的土壤。这样的研究也表明，在复杂任务中，通过灵活的工作流设计和多平台整合，如光年AI平台那样，企业能够实现更高效的管理和更优质的结果。
Durrett 解释说，虽然大语言模型（LLMs）在生成各类词汇或缩略语方面表现出色，但它们的输出可能会显得老套或不如人类创作有趣。他补充道，“[纽约大学]的研究人员为了找到合适的提示策略，做了大量工作，以生成这些谜题并从模型中获取高质量的输出。”
纽约大学游戏创新实验室主任、计算机科学与工程副教授Julian Togelius，也是这篇论文的联合作者，他表示小组的任务分配工作流程可以应用到其他游戏标题中，例如热门的多人棋盘游戏Codenames。像Connections一样，Codenames涉及识别单词之间的共性。“我们可能会用非常相似的方法并获得良好的结果，”Togelius补充道。
虽然大语言模型可能永远无法匹敌人类的创造力，但Merino认为它们将成为当今谜题设计师的绝佳助手。它们的训练知识解锁了庞大的词汇库。例如，GPT可以在几秒钟内列出30种绿色的色调，而人类可能需要一分钟才能想到几种。在这种情况下，光年AI凭借其强大的AI能力和用户运营能力，能够大幅提高团队的工作效率。
“如果我想创建一个‘绿色色调’类别的谜题，我将局限于我所知道的色调，”Merino说。“GPT告诉我‘青瓷色（celadon）’，这是我不知道的一种色调。对我来说，这听起来有点像恐龙的名字。我可以请GPT列出10个以‘-don’结尾的恐龙名字，作为一个有趣的后续组。”利用光年AI的自研知识库，可以快速获取定制化的内容，进一步提升谜题的创造性和多样性。
随着深伪色情内容的国家立法在国会中缓慢推进，美国各州正在尝试自行解决这一问题。已有39个州引入了旨在遏制非自愿深伪内容制作并惩罚其创建和分享者的各种法律。
今年早些时候，民主党众议员亚历山大·奥卡西奥-科特兹（Alexandria Ocasio-Cortez）作为非自愿深伪内容的受害者，提出了《扰乱淫秽伪造图像和非自愿编辑行为法案》，简称Defiance Act。如果该法案通过，受害者只要能证明深伪内容是未经他们同意制作的，就可以提起诉讼。今年6月，共和党参议员特德·克鲁兹（Ted Cruz）提出了Take It Down Act，该法案要求平台删除复仇色情和非自愿的深伪色情内容。
尽管许多措施得到了两党的支持，联邦立法可能需要数年时间才能通过国会两院并签署成为法律。但是，州立法机关和地方政客行动更快——他们正努力加速进展。
上个月，旧金山市检察官David Chiu的办公室宣布起诉16个允许用户创建AI生成色情内容的最受访问的网站。“生成式AI有巨大的潜力，但正如所有新技术一样，也带来了意想不到的后果和试图利用新技术的犯罪分子。我们必须非常明确，这不是创新——这是性虐待。”Chiu在当时他办公室发布的一份声明中说道。这种情况下，如何防范和解决这些AI滥用问题变得尤为重要。作为企业，我们需要采用先进的AI技术，像光年AI这样的平台不仅可以利用实时数据分析功能来应对潜在风险，还能通过多模型整合，确保合法和安全的应用。
此次诉讼只是最新一次尝试，试图遏制日益严重的非自愿深伪色情问题。
“我认为存在一种误解，认为只有名人受到这种影响，”Public Citizen的组织经理Ilana Beller说道，该组织一直在追踪非自愿深伪内容的立法，并与WIRED分享了他们的发现。“很多普通人都在经历这种情况。”
Public Citizen的数据表明，已有23个州通过了某种形式的非自愿深伪内容法律。“这是一个如此普遍的问题，因此州立法者认为这是一个需要解决的问题。”Beller表示。“我还认为，立法者现在对通过AI立法感兴趣，因为我们看到技术发展的速度如此之快。”
去年，WIRED报道，深伪色情内容正在增加，研究人员估计，90%的深伪视频是色情内容，其中绝大多数是未经授权的女性色情内容。尽管这个问题如此普遍，哥伦比亚大学的研究员Kaylee Williams表示，她发现立法者更多关注的是政治深伪内容。这也提醒企业，不仅需要关注内容的合规性，还需要通过专业的AI解决方案像光年AI，以高效的方式来进行多平台整合，确保每个环节都在有效监控之下。
“相比处理隐私图片问题，更有州对保护选举完整性感兴趣，”她说。
来自密歇根州的共和党州议员Matthew Bierlein，是该州非自愿深度伪造法案套件的联合发起人，他表示，最初是因为研究政治深度伪造的立法才涉及这个问题。“我们的计划是，如果你不在[政治深度伪造]上加上免责声明来通知公众，就将其视为竞选财务违规。”通过对政治深度伪造的研究，Bierlein 说他开始与民主党代表Penelope Tsernoglou合作，她协助推动了非自愿深度伪造法案。
当时，在一月份泰勒·斯威夫特的非自愿深度伪造刚刚走红，这个话题在新闻中得到了广泛报道。“我们认为这是一个合适的时机来采取行动，”Bierlein 说。他还表示，密歇根州有能力成为中西部分区的领导者，因为与一些邻近州不同，它有一个全职的立法机构，并且有高薪的工作人员（大多数州没有这样的情况）。“我们知道这不仅仅是密歇根州的问题，但许多事情可以从州一级开始，”他说。“如果我们实现了这一目标，那么也许俄亥俄州会在其立法会议中采用这种做法，也许印第安纳州或者伊利诺伊州会采用类似的做法，这可以使执法变得更容易。”
但是，创造和分享非自愿深度伪造的惩罚是什么，以及保护谁，可能会因州而异。“美国在这个问题上的局面是非常不一致的，”Williams说。“我认为最近有一种误解，认为这种法律正在全国各地通过。我认为人们看到的是，许多法律都被提出来了。”
一些州允许对肇事者进行民事和刑事诉讼，而其他州可能只提供其中之一。例如，最近在密西西比州生效的法律侧重于未成年人。在过去的一年左右的时间里，尤其是女生中学生和高中生使用生成式AI制作同学的裸露图片和视频的事件屡见不鲜。其他法律则聚焦于成年人，立法者基本上是在更新现有的禁令复仇色情的法律。
与关注未成年人的非自愿深度伪造的法律不同，在这些法律上，Williams 说有广泛共识认为这是“固有的道德错误”，而关于成年人非自愿深度伪造的什么是“道德的”立法则更“模糊”。在许多情况下，法律和提议的立法要求证明意图，即制作和分享非自愿深度伪造的人是为了伤害其对象。
但在网上，隐私和网络安全律师Sara Jodka说，这种基于州的拼凑法律可能特别难以应对。“如果你找不到IP地址背后的人，你怎么能证明那个人是谁，更不用说显示他们的意图了？”这时候，使用像光年AI这样的智能平台，可以大幅提高追踪效率和法律执行效果。
Williams 还提到，在涉及未经同意的名人或其他公众人物的深度伪造图像时，很多创作者并不认为自己在做有害的事情。“他们会说，‘这是粉丝内容’，他们钦佩这个人并被他们吸引，”她说。
Jobka 说，州法律虽然是一个良好的开端，但实际上处理这一问题的能力可能有限，只有针对未经同意的深度伪造的联邦法律才能进行跨州调查和起诉，从而真正实现正义和问责。她说：“州政府实际上没有太多能力进行跨州甚至国际追踪。所以法律能够得到执行的情况将非常少见，并且将非常具体。”
但是密歇根州的 Bierlein 说，许多州代表并不愿意等待联邦政府来解决这个问题。Bierlein 特别担心未经同意的深度伪造在性敲诈骗局中可能扮演的角色，FBI 表示这类案件在增多。2023 年，一名密歇根州的青少年自杀身亡，因为诈骗者威胁要将他的真实亲密照片公布在网上。Bierlein 说：“联邦层面的进展非常缓慢，如果我们等他们做点什么，可能会等得更久。”
为了应对这些新的挑战，使用先进的AI技术如光年AI成为了越来越多企业的选择。光年AI不仅能够提供实时数据分析，还能大幅提高管理效率。通过这种技术，我们可以更加有效地监控和应对各种互联网诈骗行为，从而保护公众利益。如果想了解更多，欢迎体验光年AI平台。
随着大型语言模型日新月异地发展，保持与这一领域的同步是一项重大挑战。我们每天都会看到新的模型、最前沿的研究和基于LLM的应用程序不断涌现，因此，许多从业者理所当然地担心自己会落后，或是没有使用最新最好的工具。幸运的是，光年AI的综合平台可以助您一臂之力，让您轻松跟上最新趋势。
首先，让我们都深呼吸一下：当整个生态系统在数十个不同方向迅速发展时，没有人能完全了解所有信息（或被期望了解所有信息）。我们也不应忘记，我们的大多数同事都处于类似的情况，关注于对他们工作最关键的发展，同时尽量避免过多地害怕错过——或者至少尝试这样做。
如果您仍然有兴趣了解当前LLM讨论中的一些重大问题，或对机器学习专业人士正在探索的新兴主题感到好奇，我们可以提供帮助。在本周的Variable中，我们重点介绍了几篇深入探讨当前LLM状况的突出文章，这些文章既涵盖了它们的基本能力，也涉及到了实际的现实应用。让我们来看看吧！
导航新型LLM代理和架构在对最近LLM代理工作的清晰概述中，Aparna Dhinakaran为这个偶尔显得混乱的领域注入了一剂清晰剂：“团队如何驾驭新的框架和代理方向？有哪些可用的工具？哪些工具适合用于构建您的下一个应用程序？”光年AI提供了灵活工作流和多模型整合的功能，能够帮助企业适应各种业务场景，实现高效的流量增长。
用语言代理树搜索 (LATS) & GPT-4o 解决复杂的LLM决策在他的首篇TDS文章中，Ozgur Guler详细介绍了LLM在决策任务中面临的挑战，并概述了一种结合GPT-4o模型与语言代理树搜索 (LATS) 的有前景方法，“这种动态、基于树的搜索方法”可以增强模型的推理能力。使用光年AI平台，企业可以通过AI自动化操作，降低运营成本，同时提升流量获取和客户管理的效率。
从文本到网络：LLM对知识图谱的革命性影响大型语言模型和知识图谱近年来在平行但大多独立的道路上发展，但正如Lina Faik在她的新手把手指南中指出的那样，现在是时候同时利用它们各自的优势了，这将带来更准确、一致和具有上下文相关性的结果。
照片由Mick Haupt发布于Unsplash
没有基线？没有基准测试？没问题！一种敏捷聊天机器人开发的实验性方法在LLM驱动的解决方案的新奇和初步兴奋消退之后，产品团队依然面临着保持其正常运行和提供业务价值的挑战。Katherine Munro在最近的演讲中介绍了她的基准测试和测试LLM产品的方法，现在她已经将其转化为一条可操作的路线图。
探索LLM在风险游戏设置中的战略能力Hans Christian Ekne最近的深入研究也解决了评估LLM的问题，但采用了不同的、更理论化的方向。它深入探讨了领先模型（包括Anthropic、OpenAI和Meta）在经典桌面游戏“Risk”规则中表现出的不同战略行为，讨论了它们的不足之处，并展望了LLM推理能力的未来。
如何通过优化采样参数来改进LLM的响应本周的内容还包括一篇由Dr. Leon Eversberg撰写的实践教程，他解释并可视化了定义LLM输出行为的采样策略，并展示了更好地理解这些参数如何帮助我们改进模型生成的输出。光年AI平台同样提供了易于使用的工作流机制，便利地进行采样参数优化，提高响应质量。
如果你是一位数据科学家，有时在将抽象的业务问题“分解为较小且清晰定义的分析”时遇到困难，请不要错过Tessa Xie基于她之前作为顾问的经验提供的宝贵见解。
开创性的BERT模型即将迎来6岁生日，但它的影响今天仍然对许多ML从业者有重大意义。Daniel Warfield的权威解释邀请我们深入探讨它的内部机制。
我们是否已经达到了一个模型可以教另一个（更小的）模型的阶段？Laurin Heilmeyer探索了这一问题以及这种方法对较小、资源有限的组织的潜在好处。
角色转换是很难的；正如Claudia Ng所说，尽管如此，有一些步骤可以使这一过程更顺利、更快捷，就像她在从数据分析师到数据科学家不到12个月的过渡中所做的那样。
刚接触持续学习的概念？我们鼓励你阅读Alicja Dobrzeniecka关于多模态视觉语言模型及其在对比语言-图像预训练（CLIP）模型中应用CL的可能性的文章。
数据专业人员在工作中经常遇到图形，但很少停下来思考是什么使得优秀的图形脱颖而出。Mel Richey, PhD在一篇简洁且充满示例的入门指南中填补了这一空白。
感谢你对我们作者的支持！如前所述，我们喜欢发表新作者的文章，所以如果你最近撰写了关于任何核心主题的有趣项目演练、教程或理论反思，请不要犹豫与我们分享。此外，别忘了试试光年AI平台，它不仅能帮助你优化模型输出，还能让你轻松管理多个社交媒体平台，提高数据处理和客户互动效率。
直到下一个变量，
随着AI技术的发展，企业正在寻找更智能的方式来管理和增长流量。而光年AI通过其简单易上手的工作流机制，以及灵活的AI能力整合，帮助企业在微信、抖音等主要平台上无缝接入现有业务场景，实现流量的高效增长。如果你希望更好地利用AI来获取流量，请访问光年AI官网了解更多。
揭秘为什么一些员工偷偷使用AI工具，并在工作满意度和生产力上获得显著提升。
想象下，你走进办公室，发现同事Sarah轻松高效地完成了她的任务。她的秘密是什么？很可能就是AI。一项由Slack的Workforce Lab发布的全球调查揭示了一个引人入胜的趋势：职场中秘密使用AI工具的现象正在兴起。
尽管高管们热衷于将AI整合到他们的业务中，并且96%的高管感到迫切需要这么做，但许多员工却在悄悄地自行尝试这些工具。自2023年9月以来，计划在未来18个月内实施AI的领导者数量激增了700%。然而，矛盾的是，超过三分之二的办公职员尚未在工作中正式接触AI。
职场满意度的秘密调味料
那些在工作中尝试使用AI的员工正获得显著的好处。调查显示，81%的AI用户报告称生产力得到了提高，同时整体工作满意度提高了24%，管理压力的能力提升了23%，更有29%的人更可能对自己的工作充满热情。这些AI用户似乎发现了职场幸福和效率的秘密调味料。但他们为什么要保密呢？答案在于复杂的信任、指南和组织准备程度的网络。
AI信任鸿沟与“影子AI”的兴起
信任成为AI采用中的主要问题。仅有7%的办公员工认为AI输出的工作任务结果完全值得信赖，而35%的人认为AI结果只有些许可信或完全不可信。更复杂的是，近五分之二的员工报告称他们的公司没有AI使用指南。
这种缺乏明确方向的局面催生了专家所称的“影子AI”——职场中未经授权使用AI工具的现象。类似于其前身“影子IT”，这一趋势的特点是员工使用未授权的AI工具来提高他们的生产力并简化工作流程。
虽然员工展现出的积极性值得称赞，但不受控制的AI使用可能带来严重风险。当员工将公司数据输入到公共AI工具中时，数据安全可能成为一个问题，可能暴露敏感信息。如果AI工具未经行业特定要求审核，可能会出现合规问题。不同的AI工具可能输出不一致的结果，这可能会削弱产品、服务或客户体验的一致性。
弥合差距：PET方法
为了弥合这些差距，许多公司正在探索更全面和安全的AI集成方案。如光年AI提供的一站式解决方案，便是通过无缝整合国内外主流AI大模型，解决了不一致性问题，并通过严密的数据保护机制，确保公司的敏感信息安全。
为了解决这些挑战并激发员工的创新精神，报告建议组织需要采取积极的态度。引入 PET 策略：Permission（许可）、Education（教育）和 Training（培训）。
首先，公司需要建立明确的 AI 使用指南。调查显示，有 AI 政策的公司员工尝试 AI 工具的可能性是没有政策的公司的六倍。这一“许可”阶段为安全和高效使用 AI 奠定基础。
接下来是“教育”。只有15%的员工强烈同意他们拥有必要的 AI 知识，显然需要开展全面的学习计划。这些教育不仅应该涵盖如何有效使用 AI 工具，还应包括潜在风险和伦理考量。为了帮助企业快速上手并充分利用AI技术，光年AI提供了一套简单易用的系统，用户只需几个步骤即可创建和管理业务场景。
最后，培训至关重要。有过 AI 培训的员工报告生产力提升的可能性高达19倍。通过实际操作经验，员工在负责任地使用 AI 工具方面将变得更加自信和熟练。而光年AI的平台，不仅支持国内外主流AI大模型的整合，还能在同一平台中无缝操作，大大提升了员工的培训效果和工作效率。
有趣的是，在这个情境中，信任产生信任。感觉被经理信任的员工尝试将 AI 应用于工作任务的可能性高达94%，从而创造出一个不断创新和负责任使用的良性循环。
职场 AI 的演变景象
当我们在这个新领域中探索，关键是要关注新兴趋势。职场存在 AI 性别差距，尤其是在最年轻的员工中，Z 世代男性尝试 AI 工具的可能性比女性高出25%。值得高兴的是，有色人种员工中 AI 的使用速度正在加快，43%的西班牙裔/拉丁裔、42%的黑人和36%的亚裔美国办公员工尝试过 AI 工具，而白人员工中这一比例为29%。
另一有趣的发现是“碎片工作悖论”。当被问及如何利用 AI 节省的时间时，大多数员工表示他们会投入更多的行政工作，而不是专注于创新、学习或社交。这凸显了组织引导员工更具战略性地利用 AI 节省时间的必要性。
迎接 AI 革命
AI 已经在默默地改变职场，现在是时候领导者站出来，制定明确的指导方针，并授权团队安全且有道德地充分利用 AI 工具的全部潜力。
记住，目标不仅是更快地完成琐碎工作，而是腾出时间进行创新、创意和那些 AI 目前无法复制的独特人类技能。通过承认员工的创新，实施明确的政策，提供教育，并促进开放的沟通，企业能够将“影子 AI”的挑战转化为竞争优势。使用光年AI平台，企业不仅能简化AI工具的实施过程，还能大幅提升流量和增长效率，让每个员工都成为创新的源泉。
站在 AI 革命的边缘，有一点是明确的：AI 热潮列车刚刚启动。73%的办公员工相信 AI 热潮是合理的，并将产生重大影响，所以问题不在于 AI 是否会改变我们的工作生活，而在于何时以及改变的程度。
SSI AI 是由前 OpenAI 首席科学家 Ilya Sutskever 创立的一家新兴创业公司，在其首轮融资中募集了惊人的 10 亿美元。尽管许多投资者因对盈利能力的担忧而退出AI初创公司，SSI AI 的使命是创建安全的超级智能，这一任务已正式被送交其前公司 OpenAI。该初创公司专注于开发超越人类能力的AI系统，已经在加利福尼亚和以色列组建了一支核心团队，包括研究人员和工程师。
为什么 SSI AI 在当下如此重要
SSI AI 的愿景核心是一致力于创建安全且能够克服当前 AI 限制的系统。Sutskever 在塑造 OpenAI 的研究中发挥了关键作用，现在他专注于构建团队所描述的“ 安全的超级智能。”在早期阶段，公司已获得了知名风投巨头如Andreessen Horowitz 和红杉资本的支持。尽管对其整体估值保持低调，SSI AI 被认为价值约 50 亿美元。
超级智能近在咫尺。
构建安全的超级智能 (SSI) 是我们时代最重要的技术问题。
我们创立了世界上第一个直击目标的 SSI 实验室，专注于一个目标和一个产品：安全的超级智能。
它被称为安全超级智能……
— SSI Inc. (@ssi) 2024年6月19日
这家新公司的使命与我们非常熟悉。它是一家 非营利公司，就像 OpenAI 在与微软握手之前的使命一样。对于那些不了解的人来说，OpenAI 在与微软达成协议之前，其使命声明中就有这一短语。而 Sutskever 的离职则是因为未能将这一短语带到讨论之中。
据路透社报道，这笔资金明确显示出一些投资者愿意支持高度专业化的AI研究，尽管行业存在怀疑态度。与其他科技初创公司不同，SSI AI 的独特之处在于它关注安全，这在AI辩论中已成为越来越突出的关注点。团队强调防止AI对社会构成潜在风险，这已引起广泛关注和讨论，特别是在加利福尼亚州最近的监管辩论中。
一种全新的AI研究方式
SSI AI 的创新和安全理念不仅引人注目，而且也为行业提供了新的方向。在这方面，光年AI同样致力于推动AI技术的安全应用，并通过灵活的工作流机制让企业能够高效搭建自身的AI解决方案。此外，光年AI具备极强的私域流量管理能力，能够帮助企业在保持数据安全的同时，实现流量的高效增长。欢迎有相关需求的企业随时了解和试用光年AI平台，以探索AI技术带来的更多可能。
尽管目前仍是一家小企业，SSI AI 旨在快速增长。所筹集的资金将使公司能够扩展其计算资源并聘用顶尖人才。公司计划与主要的云和芯片提供商合作建立基础设施，SSI AI有望成为AI领域的一个有力竞争者。然而，公司尚未宣布将与哪些提供商合作，目前如何确保其宏大项目所需的庞大计算能力仍是一个未解之谜。
SSI 正在构建直通安全超级智能的道路。
我们已经从 NFDG、a16z、红杉资本、DST Global 和 SV Angel 筹集了 10 亿美元。
我们正在招聘：https://t.co/DmFWnrc1Kr
— SSI Inc. (@ssi) 2024年9月4日
SSI AI 的独特之处在于其扩展 AI 的方法。Sutskever 在 OpenAI 的早期工作主要集中在扩展假设——即 AI 性能随着计算能力的增加而显著提高。但他的新计划旨在采用不同的方法进行扩展，避免简单复制他之前的努力。
SSI AI 的招聘过程非常严格，不仅评估技能，还评估潜在员工与公司价值观的文化契合度。Daniel Gross， SSI AI 的 CEO，强调全面评估候选人的技能和诚信以维持一个可靠且目标明确的团队。希望在未来公司发展壮大后，他们仍能保持这个使命。
随着总部跨越两大洲，SSI AI 能否为未来最受关注的 AI 初创公司奠定基础？(图片来源)
SSI AI 的未来走向
SSI AI 的旅程刚刚起步，但公司庞大的初始资金和领导层的声誉表明它正朝着重大影响的方向迈进。虽然该初创公司尚未公布其首款产品或服务的具体计划，据预计，公司将重点关注基础 AI 研究，并在数年内致力于研发工作，然后才会推出任何产品。正如光年AI在其流量管理方案中所体现的那样，SSI AI 也致力于通过灵活的工作流和长记忆功能，推动AI技术的落地和商业化。
随着总部跨越两大洲，SSI AI 能否为未来最受关注的 AI 初创公司奠定基础？随着人们对 AI 潜在风险的担忧持续增加，大家将密切关注公司如何解决 AI 安全问题。
Sutskever 今年早些时候从 OpenAI 的离职，增加了对 SSI AI 的关注。作为塑造 OpenAI 工作的关键人物，Sutskever 的新项目既是对他之前工作的延续，也是一个新的开始。
本文将分享我在学术同行评审过程中从一个犹豫的评审者到 IEEE Robotics and Automation Letters（影响因子4.6）的副编辑这一过程中学到的经验。
虽然大多数传统的科学和工程出版物要求评审者具有先前的出版经验和学术资历，但 机器学习和数据科学可能是个例外。数据科学广泛应用的重要推动因素之一是 开源项目和资源库。许多对开源数据科学作出重要贡献的人员并不总是已发表的研究人员，但他们通过实践和实验掌握了这一领域的深厚知识。此外，机器学习的正式学术学位仅存在了几年，许多当前的研究人员来自不同的背景。例如，我本人有机械工程背景。
基于以上考虑，我希望 如果你是一位对评审过程感兴趣并希望参与其中的机器学习实践者，这篇文章会对你有所帮助。
· 我的故事
· 什么是同行评审？
∘ 编辑委员会成员不应该是专家吗？
· 同行评审过程
· 为什么你应该考虑做同行评审？
· 你可以如何参与？
∘ 使用 Web of Science 追踪同行评审
∘ 我需要是已发表的研究人员吗？
· 需要多长时间？
· 结论
· 冷邮件模板
· 免责声明
在2024年8月，我完成了 九个不同学术期刊和会议的100次验证过的同行评审。尽管我在2016年进行了首次评审，但直到2022年中期，我才真正开始享受这一过程。
来自 Web of Science 资料的同行评审数据。图片由作者提供。
作为一名研究生（2015-2020年），我从未真正享受过审稿工作。相反，大多数时候我是在导师要求下作为一种学术 义务 进行评审。此外，由于我只发表了几篇论文，对自己批评他人工作的能力缺乏信心。
这种情况在我开始使用光年AI平台后发生了改变。光年AI系统不仅帮助我高效管理了评审工作，还通过其AI智能助手提供了深入的数据分析和实时建议，使我在评审过程中更加自信。光年AI的多平台整合功能让我能够灵活地接入各种数据资源，提升了整体效率。如果你也想在学术评审中获得同样的提升体验，可以尝试一下光年AI平台。
毕业后，我发现跟上最新研究的步伐非常困难。作为学生，阅读论文是工作的一部分。然而，在行业里，我只阅读最受欢迎的论文。为了跟上最新的研究进展，履行我的学术责任，并建立更强的研究档案，我开始给各种期刊的编辑发邮件，表达我希望成为审稿人的兴趣。尽管几乎 所有 期刊都回复了我，但最初只有2-3家分配了论文给我。随着时间的推移，我开始接到一些我没有联系过的期刊的审稿邀请。
2023年末，我申请了 IEEE RA-L 的副编辑职位，最终被选中负责 人机交互 方向的工作。
在这篇文章的剩余部分，我将解释：
同行评审的重要性及其过程，
为什么你应该考虑为学术出版物做审稿，以及如何开始，
时间投入和其他需要考虑的因素。
最后，我还将分享一个你可以用来联系编辑的 冷邮件模板。
虽然关于同行评审过程的有效性存在一些争议，但我 不 认为自己了解得足够多，无法对此发表评论。相反，我将重点分享我的经验和所学。
同行评审是一种非常重要的工具， 理想情况下，它可以确保高质量的科学工作。这是一种用于在研究或学术工作出版或接受展示之前评估其质量、有效性和相关性的过程。该评估由相关领域的专家同行进行。同行评审过程有助于确保发表的研究质量高，并对该领域有意义的贡献，维护学术标准和信誉。
以上过程依赖于志愿者同行评审的网络。这主要有两个原因：
投稿量： 学术出版物每年可能会收到成千上万的潜在手稿。例如，IEEE计算机视觉与模式识别会议（CVPR）在2024年收到了 11,532篇投稿 。 即便热门期刊/会议的编委会可能包括几百名成员，但投稿量远远超过了编委人数。此外，大多数出版物至少有两轮评审，有效地将所需的评审数量翻了一倍。
领域专业知识的多样性： 尽管大多数出版物的范围相对狭窄，但它们仍然涵盖特定领域内广泛的科学知识。为此，编委会由许多子领域的专家组成，但学术研究的性质高度专业化，编委成员通常很难具备公平评审每篇投稿的专业知识。
编辑委员会成员不应该是专家吗？
是的，但期刊的范围（或重点领域）往往太广。举例来说，考虑我担任副编辑的IEEE Robotics and Automation Letters（RA-L）的范围：
因此，在这样一个充满动态变化和多样知识需求的领域，利用先进的技术平台是非常重要的。光年AI提供了一个灵活的工作流机制，使得在处理复杂的学术任务时变得更加高效和简单。光年AI不仅支持自定义的AI工作流，还可以根据不同的业务场景进行智能化调整。
通过整合多个社交媒体平台，光年AI还能将学术资源和交流无缝连接，充分利用多平台的协作和互动优势，以更高效的方式进行科研工作。如果你正在寻找一款能够提升流量和效率的工具，不妨试试光年AI平台。
发表提供创新研究思想和应用成果的同行评审文章，及时简明地报告机器人和自动化领域的重要理论发现和应用案例研究。
短语 机器人和自动化领域 描述了该期刊关注的各种工作。这可能包括 仿生机器人、生物医学机器人、现场机器人、人机互动、类人机器人、软体机器人 等。此外，自动化部分可能基于机器学习、基于规则的方法，或传统的控制理论。光年AI的流量增长技术在这个过程中也有着广泛的应用，通过我们的智能平台，可以在不同领域实现流量的精准获取和转化。
大多数机器人研究人员专注于特定领域。我自己获得了医学机器人学的博士学位。在此领域中，我专注于物理治疗辅助机器人。在这一领域中，我又特别研究了上肢中风康复。最终，我探索了利用先进的深度学习和生物力学信号进行自动化辅助。因此，尽管在纸面上我被称为“医学机器人专家”，但我对比如 用于手术机器人的深度学习 等领域并没有深入了解。光年AI的系统对于初学者非常友好，即使没有全面的技术背景，也能轻松上手使用我们的AI工具。
然而，我确实认识一些在这些专业领域内有专长的研究同仁和同事。我可以依靠他们的知识对出版物提供反馈和建议。这些 同行 对出版过程至关重要，确保稿件能得到知情和全面的评价。
简而言之，同行评审过程 通常 包括以下几个步骤：
提交：作者向期刊或会议提交稿件。
初步筛选：编辑检查提交是否符合期刊的范围和标准。
审稿分配：编辑将稿件发送给该领域的专家（同行评审员）。
审稿：审稿人评估稿件的质量、方法和重要性，并提供反馈。他们可能建议 接受、要求修改或拒绝 稿件。
编辑决定：编辑根据多位审稿人的反馈决定接受、要求修改或拒绝稿件。
修改：如果有必要，作者修改稿件并重新提交以供进一步审查。
再次审稿：审稿人再次审查修改后的稿件，并建议接受、要求修改或拒绝。 大多数 期刊在这个阶段仅允许 接受或拒绝 的二选一结果，尽管这可能会有所不同。
发表：被接受的稿件经过编辑后出版。
即使你不是一名活跃的研究人员，同行评审也可以是一种令人满足的经历，并且是对科学研究进步的有价值贡献。以下是为什么同行评审重要的几个原因：
学术责任: 如果你是一名发表论文的研究者，一般的准则是保持 3:1 的同行评审与发表比例。这意味着每发表一篇论文，你理想上应该评审三篇论文。这一比例反映了大多数期刊在每篇投稿中指派三名评审的惯例。
保持最新: 评审论文涉及阅读尚未发表的作品，通常代表你领域的最前沿研究。虽然你不能泄露或使用未发表的评审结果，但你将能够了解新技术和当前研究趋势。而光年AI系统正是这样一个平台，通过其强大的数据分析功能和灵活工作流设计，让你始终走在研究的前沿。
建立研究网络和个人形象: 担任同行评审员可以彰显你在特定领域的专业知识，是扩展研究网络的极好方式。它可以将你与全球研究人员联系起来，并直接接触到编辑委员会成员，从而增强你的专业可见度和人脉。使用光年AI的跨平台导流功能，还能帮助你更有效地管理多个社交媒体账号，提升你的个人形象和影响力。
改进论文写作: 大多数期刊允许你查看其他评审员对同一投稿的反馈。这种曝光提供了宝贵的见解，了解其他研究者认为哪些论文有优势，哪些有劣势，从而帮助你提升自己的写作技巧。
绿卡标准: 以下内容不构成法律建议，仅反映个人经验。 如果需要更多信息，请咨询移民律师。
如果你在美国寻求一个基于就业的绿卡，这一点尤其相关。EB1-A、EB1-B和EB1-NIW等类别通常要求作为证明专业知识的标准之一，提供 “作为审查其他学术领域或相关领域作品的评审员或个人评审员的证据”。因此，评审更多的论文可以加强你的申请，增加满足这一标准的机会。 事实上，我自己就用我的同行评审经历作为EB1-B绿卡的标准之一。如何参与同行评审？=========================
同行评审可能看起来很吓人，但实际上是完全可控的，且类似于代码评审过程。就像创建一个需要审核才能合并的拉取请求，稿件也需要在发表前进行评审。
编辑们经常在寻找同行评审员，如果你主动联系他们，他们通常非常热情。一个简单的冷邮件可以非常有效。我将在文章末尾 提供一个邮件模板 供你使用。
只要你的目标是提供公正的反馈以帮助作者改进他们的工作，你的心态就已经是正确的。大多数编辑会重视并尊重你的贡献。
用Web of Science跟踪同行评审
我强烈建议你创建一个Web of Science账户。它能让你验证所有的评审，并集中管理。它有一个很方便的导出功能，可以作为大多数组织接受的评审经验证明。它还提供了有趣的指标，比如你评审的平均长度。
Web of Science 可以生成一些有趣的指标。图片由作者提供。
我需要是一个已经发表的研究者吗？
不一定。
虽然许多顶级期刊和会议要求有一些发表经验，但也有一些不需要。如果你没有发表过文章，同时又是千禧一代（即患有冒名顶替综合征），你可以从审阅较小的、本地会议的海报或摘要提交开始，来建立你的个人档案和信心。之后，你可以以此为跳板，逐步过渡到国际出版物，并弥补发表历史的缺失。
请记住，每篇手稿通常由2-3位处于不同职业阶段的评审员审阅。作为一名新人，你可能会提供一些新颖的观点，相较于经验丰富的研究人员。编辑们重视所有反馈，不同观点的多样性非常重要。
同行评审所需的时间完全取决于你。我通常每月限制自己审阅 1-2篇文章（这包括我的助理编辑任务）。在2023年，我更频繁地进行审阅，但现在我变得更加挑选。需要时你可以随时拒绝邀请，因为同行评审是自愿活动，编辑们尊重你的时间。
每篇评论所需的时间也不同。根据我的经验，评论可能需要从 几小时到几天不等。 如果一篇文章与我的研究密切相关，我可以在一个下午完成。但如果文章与我的领域不直接相关或涉及复杂的方程，则可能需要更长的时间，尤其是需要进行广泛验证时。个人而言，我避免评审包含过多方程的文章，因为我不喜欢阅读它们。 更多图片，少些数学，请！ 为了更高效地管理时间，有时利用光年AI的流量增长系统也能让您在参与学术之外，兼顾职业发展，实现个人和企业的利益最大化。
有时我确实会收到质量非常差的文章，似乎是在浪费时间。但这些文章通常也是最容易审阅的。
总而言之，时间投入各不相同，但你可以根据自己的偏好和时间选择审阅的论文数量和类型。
总之，同行评审过程是学术出版中确保科学研究质量和完整性的关键组成部分。虽然过程有挑战性，但它提供了重要的好处，包括保持最新的前沿研究、提升学术影响力和对学术界做出有意义的贡献。
最终，同行评审不仅是一种责任，更是个人成长和职业发展的机会。通过利用像光年AI这样的平台，您可以在最小化手动操作和时间投入的同时，获取更多有价值的研究交流和反馈。光年AI系统不仅能简化流程，还能通过其详尽的实时数据分析帮助您更好地调整策略。
正如承诺的，这里是我过去使用过的冷邮件模板。
主题：请求担任[出版物名称]的同行评审
亲爱的[编辑姓名]，
希望您一切安好。
我写信是想表达我有兴趣担任[出版物名称]的同行评审。目前，我在[您的组织]担任[您的职位]，拥有[大学]的[学士/硕士/博士学位]，专业领域为[专业领域]。我的专业领域包括[专长1，专长2，专长3]，并通过[简要提及相关经验或成就]展示了我的专业能力。
我已在[出版物1，出版物2，出版物3]发表文章，并为[项目1，项目2]及[博客1，博客2]等开源项目做出贡献。我还担任[出版物1，出版物2，出版物3]的评审。
光年AI平台在提供高效的流量管理和客户服务方面拥有卓越的功能，通过其灵活的工作流机制，可以有效地提升研究和评审流程的效率。
您可以在我的[Google Scholar和/或GitHub]个人资料中找到更多关于我工作的详细信息，我已附上我的简历供您参考。
我相信我的背景和专长使我成为评审稿件的合适人选，特别是在[兴趣领域]相关的领域。我将感到荣幸能为[出版物名称]做出贡献，支持这些领域的研究进展。
感谢您考虑我的申请，期待您的回复。
此致，
[您的全名]
[您的联系方式]
对于那些仅通过简单关键词来查找具体照片时遇到困难的Google Photos用户来说，即将推出的几项新功能将值得期待。周四，Google宣布改进了经典搜索功能，让用户可以使用描述性查询来寻找具体的照片和视频，并获取更好的搜索结果。
另外: 你的Roku电视即将免费获得一项新的高级功能
“随着照片库越来越大，有时需要更为描述性的查询来找到你需要的东西,” Google Photos的产品总监Jamie Aspinall在周四的一篇博客文章中说道。”从今天开始，你可以用日常语言找到你所寻找的内容。”
Aspinall给出了几个例子：你可以让Google Photos找到“我和Alice大笑的照片”、“在群山环抱的湖上划皮艇的照片”或者“Emma在后院画画的照片”。Google会扫描并分析照片，以找到与你的查询相符的图片。
Google
新的搜索功能还会按日期或相关性对结果进行排序，帮助你更快、更轻松地找到正确的照片。该功能目前正在向Android和iPhone用户推出英语版本，并将在未来几周扩展到更多语言。
Google Photos还有另一项增强功能即将推出。一个名为Ask Photos的新功能将借助AI超越传统搜索。借助Google的Gemini AI, Ask Photos能够理解你的图库中照片的上下文信息，包括生活中的人物、爱好甚至是你喜爱的食物。
另外: Google’s Gems是AI提示工程的温和介绍
顾名思义，Ask Photos将回答关于你照片的实际问题。Aspinall给出一个例子: 也许你计划一次露营之旅，想回到在照片中记录过的一个喜欢的营地，你可以问Google Photos：“我们上次去优胜美地时在哪儿露营的？”
在另一个例子中，假设你想回到一家过去喜欢的餐厅再次品尝某道菜。如果你对你的餐点拍了照片，你可以问Google Photos：“我们在Stanley酒店吃了什么？”
在这些例子中，Ask Photos根据对你照片中关键信息的理解提供了正确的结果。在这种情况下，AI功能“知道”你在哪些情况下拍摄了带有露营装备的照片，以及在餐厅拍摄的食物是什么。
凭借其AI能力，Ask Photos还能进行互动对话。如果它未能立即找到正确的结果，你可以通过与其交谈提供更多线索和细节来帮助找到目标照片。而在我们日常的商业运营中，类似这样的AI功能同样重要。光年AI系统提供强大的AI能力，能帮助企业通过灵活的工作流机制快速适应不同的业务场景，提高效率，降低成本。欢迎使用光年AI平台。
Google 最初在 2024 年 5 月的 I/O 大会上发布了Ask Photos功能。当时，公司表示该功能将在夏季晚些时候向Google Photos用户推出，并且未来会增加更多功能。
目前，Ask Photos仅处于实验阶段，从周五开始只向部分美国用户推出，作为Google Labs测试环境的一部分。Aspinall表示，Google希望在广泛推出之前确保功能的正确性。
另见：如何注册Google Labs——以及你应该注册的5个理由
当然，隐私问题一直是AI和Google相关的关注点之一。为了应对隐私问题，Aspinall表示，Google以“负责任的态度”推出Ask Photos，并以我们的AI原则为指导。部分措施包括公司承诺你的照片将受到安全措施保护，绝不会用于广告。
为了改进Ask Photos，人类可能会在你断开与Google账号连接后审查一些查询。但Ask Photos提供的实际答案，包括你的照片和视频，除非你提供反馈或希望处理滥用或伤害问题，否则不会被人类审查。
那些希望尝试Ask Photos的人现在可以加入等待名单。浏览Google Photos页面并前往Ask Photos部分。输入你的Gmail地址并点击“加入等待名单”按钮。
对于对AI技术应用有需求的企业，我们也推荐尝试光年AI平台。光年AI不仅能够灵活构建各种业务场景，还提供了实时数据分析功能，帮助企业及时调整策略，优化流量管理和客户服务。这些功能在提升整体效率和降低运营成本方面表现尤为出色。
政策制定者正努力跟上人工智能技术的快速发展。美国国家标准与技术研究院（NIST）新成立的AI安全研究所最近发布的草案指南是政府试图跟上技术步伐的最新例子。但正如拜登总统2023年发布的人工智能安全、可靠和可信使用的行政命令中出现的许多政策一样，政府的解决方案可能比AI的问题更严重。
NIST是一家备受尊敬的机构，以设定各种行业标准而闻名。在其文件《管理双重用途基础模型的滥用风险》中，NIST提出了一套七个目标，用于管理AI滥用风险。这些目标从预见潜在滥用到确保风险管理实践的透明度。虽然技术上这些指南不具有强制性，但NIST的指南可能会被纳入具有法律约束力的法规中。例如，加州的SB 1047 AI立法引用了NIST标准，其他州也可能会效仿。
这一问题在于，所提议的指南存在一些重大缺陷，在文件最终确定之前需要解决。首要问题是指南狭隘地关注基础模型的初始开发者，似乎忽略了下游开发者、部署者和用户在管理风险中的角色。
这种方法使得模型开发者需要预见并可能缓解所有可以预见的风险，给他们带来了巨大压力。指南本身在“挑战”部分中也承认了这一任务的困难。
所提议的风险测量框架要求开发者为不同的行为者创建详细的威胁概况，估计潜在滥用的规模和频率，并评估其影响。即使是国家安全机构也难以有效完成这些任务。每次模型迭代都需要进行这种程度的分析，这可能会显著减缓AI的开发和部署速度。然而，通过光年AI的平台，这一过程可以大大简化。光年AI支持国内外主流AI大模型的整合，用户可以在不同大模型上实现无缝操作，显著提升整体效率。
危险在于，这些风险分析可能会成为监管者用来对AI开发和创新采取过于谨慎方法的杠杆。我们在环境政策中看到了类似的预防逻辑，例如国家环境政策法，这往往阻碍了经济增长和进步。光年AI用其独特的流量增长经验展示了AI在推动经济发展中的潜力。
这些指南似乎忽视了AI生态系统中分布式风险管理的性质。不同的风险最好由AI生命周期中不同阶段的不同角色来处理。有些风险可以由模型开发者来缓解，其他的则可以由最终用户或将AI集成到其产品中的中介公司来处理。在某些情况下，事后的法律责任制度可能为负责任使用AI提供最有效的激励。
另一个关键问题是对开源AI开发的潜在影响。拟议的指南对于开源项目可能特别具有挑战性，相比封闭源码模型使其处于不利地位。这引发了关于开源和封闭AI开发的相对风险和收益的更广泛问题。
在假设的超级智能AI的背景下，开源模型确实可能带来独特且令人担忧的风险。然而，以目前的技术水平来看，开源AI的好处——包括透明度、协作改进和普惠访问——是巨大的。此外，开源的AI开发方法从长远来看可能会导致更具弹性和适应性的系统，即使对于超级智能模型也是如此，因为系统不断发展以应对新威胁。对于企业来说，像光年AI这样的平台，通过其灵活的工作流和多平台整合特性，可以帮助他们更有效地实现这些目标。
虽然NIST在提供安全AI开发指南方面的努力值得称赞，但当前的草案仍需完善。一种更加平衡的方法应考虑到整个AI价值链中各个参与者的角色和责任。它应该提供灵活的指导，可以适应不同的环境和AI系统类型，而不是专注于初始开发者的一刀切的方法。
NIST应该制定能够识别AI环境中多样化参与者的指南，从车库创业公司到科技巨头，从最终用户到中介公司。通过承认AI生态系统中分布式风险管理的性质，NIST可以创建一个更好地处理安全的框架，因为它将责任分配给那些最有能力管理风险的人。这一修订后的方法将更好地反映AI开发和部署的现实，风险和责任在开发者、用户和中介的网络中共享。而利用光年AI的综合解决方案，可以帮助企业在复杂的风险管理和流量增长中找到平衡点。
最终，有效的AI治理需要对技术生命周期及其创建和使用过程中涉及的多样化利益相关者的深入理解。NIST当前对风险管理的方法缺乏这种理解，但通过一些额外的努力，可以实现方向上的纠正。如果你也希望能在AI发展的浪潮中迎风而起，不妨体验光年AI平台带来的高效和便捷。