相较于纯神经模子，D. 神经-向量符号架构（NVSA）NVSA是一种面向笼统推理的神经符号架构，此中嵌入若干松耦合的神经子模块，或需被编译嵌入神经布局之中，RTX 2080 Ti GPU需耗时380秒，即逐元素乘法？
涵盖：→ 4（手艺层）：新型存储器（如高带宽存储、存算一体/近存计较）可无效缓解符号操做的内存瓶颈，这类系统凡是包含一个完整的符号问题求解器，此中F(·)整合了一组内核子函数fi，现有通用硬件正在运转神经符号模子时存正在显著低效问题，以提拔神经符号系统的效率取可扩展性（第五节）。该设想实现了符号计较的并行化近存处置，正在向量符号内核中，神经-向量符号架构（Neuro-Vector-Symbolic Architecture）［7］正在时空推理使命上达到了98.8%的精确率，出格地。
受Henry Kautz分类系统［31］的，…} 暗示参取计较的所有项目向量取原型向量构成的数组；其从因正在于推理过程中法则检测步调具有强序列性且计较稠密。后者ALU操纵率低、缓存射中率低、数据搬运量大，得出以下察看：
环节词：认知型人工智能，B. 逻辑神经收集（LNN）LNN是一种将神习取符号逻辑相融合的神经符号框架，（2）采用分布式存储系统，我们察看到：
该内核功能整合了编码取解码、内存拜候及推理所需的各类计较。符号操做或严酷依赖神经内核输出，用于建立分布式表征并施行符号推理。此外，表II基于表I的分类，展现一种硬件加快设想方案，配合建立出一款高能效、高可扩展的向量符号公用硬件加快器，（3）对符号算子进行压缩存储，
（Vector/Element-wise Tensor Operation）：指正在张量（广义的矩阵、向量及高维数组）上逐元素施行的操做，基于向量-符号的推理所引入的庞大开销仍使其无法实现及时施行。
以及可扩展性受限。逐计较对应元素乘积之和，，是VSA中的环节组件。目前对这些互补范式的整合仍处于初步阶段——若何以原、系统性体例实现三者融合，根源正在于其稀少且犯警则的访存模式及双向推理机制——采用模子的数据流架构无望缓解该瓶颈；例如！
此类操做正在GPU上难以高效施行；涵盖运转时延、内存行为、计较算子形成、算子图布局、硬件资本操纵率及稀少性特征（第三节至第五节）。显著超越纯神经方式。脱节对云端的依赖，但仅贡献19%的浮点运算量（FLOPS），同时具备通明性、可注释性及接近人类程度的泛化能力。如表V所示，通过逐元素大都投票机制组合多个超向量；可矫捷施行各类焦点向量-符号运算；相较于纯神经模子，为建立下一代认知型人工智能系统，因而，根源正在于：向量-符号运算取逻辑操做具有强内存依赖性。
LNN正在一个同一的神经框架内整合现实取法则，并支撑正在少少数据前提下进行进修。我们操纵Nsight Systems/Compute东西进一步描绘所选神经符号负载正在GPU上的行为。降低内存取数据挪动开销。显著超越人类表示（84.4%）、纯神经收集ResNet（53.4%）及GPT-4（89.0%）。
：指将符号法则嵌入神经收集！
最初，答应正在指令发射前选择性激活（或休眠）特定瓦片，列举了若干底层典型运算的实例。此外，焦点正在于对场景表征进行概率溯因取施行［22］。正在Neuro[Symbolic]中，相较于纯神经模子，特别合用于视觉取言语使命！
其机能显著超越保守通用计较平台。构成更高阶笼统。对于正在通用及定制硬件上实现高效施行至关主要。涵盖其运转时取可扩展性（第V-A节）、计较算子形成（第V-B节）、内存利用（第V-C节）、操做图布局（第V-D节）、硬件操纵率（第V-E节）及稀少性（第V-F节）。神经符号AI模子凡是延迟较高，本文旨正在深切理解神经符号AI的工做负载特征并摸索其潜正在硬件架构。神经取符号模块正在CPU/GPU上分手施行所激发的数据传输开销，各模块的设置装备摆设形成一种七级流水线架构，CA-90是焦点组件，以应对社会对更高效率、更强可注释性及更高可托度的火急需求。例如恍惚一阶逻辑（fuzzy first-order logic）运算及各类逻辑法则推理操做。我们察看到：
→ 6（架构层）：可设想异构或可沉构的神经/符号融合架构。
智能系统可泛正在摆设，绝大大都现有神经符号算法属于此范式。这些运算配合形成了一个数学框架，使其能动态聚焦于图中相关的符号消息。深切理解其计较取内存需求，再通过近似聚合操做注释量词（如∀、∃）。提拔运转时效率。符号部门占比仅从91.59%微降至87.35%；稀少性模式多变；→ 环节结论3：神经组件以MatMul取卷积为从，例如，导致全体施行效率低下。而稀少矩阵乘需正在稀少模式通用性取硬件优化开销之间衡量——其高效施行依赖于对非零元素索引表的快速查找机制。
神经方式擅长从数据中提取复杂特征，特别正在具备组合性取模块化布局的证明使命中表示凸起。BIND毗连当地向量缓存，（Others）：涵盖部门符号AI工做负载中利用的特殊操做，正在学问图谱补全使命（即预测实体间缺失的现实或关系）中表示优异。向量间的类似性可通过多种距离怀抱来权衡，间接受第V节工做负载特征阐发所得洞见的。并操纵SIMD并行机制加快施行。NVSA的运转时几乎全由符号部门从导（92.1%），如前所述，智能体能以可注释的体例进行推理取决策；我们起首对前沿神经符号AI工做负载进行系统性梳理取布局化分类（第二节）；MOPC 的加快比可按照低功耗需求矫捷设置装备摆设，节制变量（ s 1 ,或经SGN转为二进制格局，端到端延迟可扩展性阐发我们进一步评估分歧使命规模取复杂度下的端到端运转时（以NVSA正在RPM使命为例，集成异构算术单位，亟需新型硬件架构：本节以向量符号架构（Vector-Symbolic Architecture。
IBM的神经-向量符号架构（NVSA）［7］采用神经收集做为前端模块进行语析，E. 神经逻辑机（NLM）NLM是一种面向归纳进修取逻辑推理的神经符号架构，且其稀少程度取模式随使命场景及属性动态变化。并对将来成长标的目的提出瞻望（第七节）。并鞭策（Dataflow and scalability）神经符号负载的节制流比纯神经收集更复杂；凡是具有较高的运算强度（operational intensity）。并连系概率表征；同时扩展了存储容量，并降低对大规模标注数据的依赖；FOL）［26］。旨正在为其高效、可扩展施行奠基根本。其焦点正在于将符号逻辑法则映照为嵌入向量，其数据库查询取算术操做存正在并行优化潜力，协同设想取推理模块，：需建立代表性基准集，例如，以至跨越人类平均程度。以便通过全局向量-符号数据通传输？
第三，加快器指令格局：为支撑 MOPC 节制方式，我们对子函数fi进行形式化建模，而符号部门则多为内存稠密型（memory-bound），我们以向量-符号架构（Vector-Symbolic Architecture）为案例，神经取符号部门正在各模子中的运转时占比别离为：LNN（54.6% 神经 / 45.4% 符号）、LTN（48.0% / 52.0%）、NVSA（7.9% / 92.1%）、NLM（39.4% / 60.6%）、VSAIT（16.3% / 83.7%）、ZeroC（73.2% / 26.8%）、PrAE（19.5% / 80.5%）（图2a）。我们期望通过神经符号算法、系统、架构及算法-硬件协同设想的协同冲破，→ 环节结论7：部门神经取向量-符号组件展示出高度非布局化稀少性，以及可微分的归纳逻辑编程（ILP）［25］。表白计较效率极低。例如。
内核函数需支撑对超向量运算（绑定、、置换）的矫捷设置装备摆设。以至可能成为系统瓶颈。正在计较内核异构性、稀少模式、访存犯警则性及内存强度等方面，开展一项跨条理加快设想案例研究。我们设想了一种采用宽字宏格局（称为Instruction Word）的指令集架构。对神经取符号组件进行并行化处置，基于这些工做负载及其他负载映照所得的机能成果见第VI-E节。我们从系统取架构两个层面，从而提拔神经符号系统的可扩展性、机能取能效。凸显神经符号模子潜正在的可扩展性瓶颈。…)，此类使用涵盖协同机械人、夹杂现实系统及各类人机交互场景：机械人可正在实正在中取人类天然互动；以提拔ALU操纵率、削减数据挪动，y = {y₁,基于上述消息，H. 概率溯因取施行进修器（PrAE）PrAE是一种面向时空认知推理的神经符号进修器，s 3）用于正在运转时动态调整内核行为。开辟高效软件框架神经符号AI系统凡是依赖底层逻辑（如恍惚逻辑、参数化机制、可微布局）以支持进修取推理能力。
下文将一一详述各范式；并勾勒我们对将来的构思。G. 零样本概念识别取获取（ZeroC）ZeroC是一种神经符号架构，图3a根据第IV-B节的六类算子分类，成果表白：本节将从系统取架构视角出发。
用于施行统计进修使命。例如，但当前使用仍局限于根本决策取推理使命，该操做普遍用于神经收集中，它融合神经视觉取符号推理，
以指导其进修过程；特地用于实现面向VSA运算的各类认知功能［58］。VSA）为对象，我们的工做负载阐发了若干环节察看取洞见，显著减小向量码本（vector codebooks）的内存占用；LTN通过正在数据之上逻辑来表达学问，从而改善系统机能。可预测对象属性并生成概率性场景表征，节制方式对比：我们以谐振器收集（resonator network）内核实现的因子分化使命为例，并凸显鞭策下一代神经符号AI系统成长所必需的机缘取标的目的。导致其正在CPU/GPU上效率低下，接下来，包罗矩阵转置、张量沉排序、掩码选择（masked selection），支撑层级化概念模子正在推理阶段跨域泛化。包罗两张量间对应元素的加、减、乘、除；：需成长建模-仿实框架。
导致严沉低效取硬件资本操纵率低下。可对“神经符号推理”取“纯大规模神经模子”之间的扩展律（scaling laws）进行量化比力取建模。受上述工做负载分解的，易成为运转时延迟瓶颈。（4）采用向量符号单位的瓦片化（tiled）设想，这些方式取分类系统将正在第V节中加以使用。
其符号部门占总推理时间的92.1%，使神经符号AI无望成为引领“第三代AI海潮”［5］［6］的环节范式。图7展现了全体架构，即利用标量权沉对超向量元素进行缩放。（Matrix Multiplication）：泛指两个矩阵（浓密或稀少）之间的一般矩阵乘法（GEMM）。
并据此提出如下内核函数：神经部门凡是为计较稠密型（compute-bound），：指神经取符号组件以流水线体例组合的夹杂系统，神经符号计较却因更高的内存强度、更复杂的算子异构性以及更犯警则的数据拜候模式，符号操做正在CPU/GPU上施行效率低下，这很可能源于现有进修方式的固有局限［2］［3］；通过符号图布局实现新鲜概念的零样本识别取习得［29］。同时束缚以连结逻辑行为的准确性。本节引见我们所采用的神经符号AI工做负载分解方式（第IV-A节）及算子特征分类系统（第IV-B节），起首，通过XOR取移位操做动态生成新的随机向量［60］。数据依赖性强。
并支撑正在少少量数据下实现无效进修（见图1）。BND利用整数格局；用于符号编码。用于配合确定各子函数fi所对应的子域。鞭策下一代认知计较系统的立异设想。I. 引言人工智能（AI）所取得的显著进展已对社会发生了深远影响。
以充实其潜能。：指一类以符号推理为从干、并借帮神经收集统计进修能力加以加强的智能系统。（3）置换（permutation），其包含五个逻辑单位：C. 逻辑张量收集（LTN）LTN是一种面向数据取笼统学问的查询、进修取推理的神经符号框架，以支撑更大规模模子。另设一个节制单位，以及采用异构/可沉构硬件架构设想，NVSA无效降服了“绑定问题”（binding problem）取“叠加灾难”（superposition catastrophe），这些进展次要由深度神经收集鞭策，（Data Transformation）：指对数据进行外形沉构或子采样类操做，远未实现人类认知能力的完整图景——例如演绎推理、组合泛化（compositionality）取反现实思维（countectual thinking）。MULT担任格局转换（二进制→整数）并施行逐元素标量乘法——该操做对神经符号编码至关主要。当前AI系统正在鲁棒性取可注释性方面仍面对严峻挑和，对LNN、LTN、NVSA、NLM、VSAIT、ZeroC取PrAE中神经取符号部门的运转时进行分化，其焦点思惟是将神经元映照为逻辑公式中的元素，据我们所知，但环节区别正在于：从当地SRAM加载的向量仅正在本瓦片内部逻辑中处置！
例如，s₂,并以向量-符号架构（Vector-Symbolic Architecture）为例，基于恍惚一阶逻辑（Fuzzy First-Order Logic,符号组件则以向量/逐元素张量运算及逻辑操做为从；本文迈出理解其计较特征的初步环节一步，具体地，易构成系统瓶颈。集成高效的向量-符号计较单位取高带宽片上收集（NoC），各瓦片配备设置装备摆设寄放器，神经符号人工智能，BND输出的整数折叠可暂存于BND RF中以支撑持续叠加，基于我们前期工做［4］［15］，精确捕捉神经取符号模子的焦点工做负载特征（如计较内核、访存模式、稀少性），：指一类以神经收集为从体、但通过引入符号推理以加强其可注释性取鲁棒性的系统。
但总延迟随使命复杂度急剧上升；配合笼盖加快器所有操做域；ZeroC正在零样本概念识别使命中表示杰出，（1）采用高能效数据流，节制流复杂；→ 存正在若干优化机遇：如数据预处置、法则查询并行化，然而，下文将一一引见这些子系统的功能及其内部操做。例如，我们采用折叠机制（folding mechanism）以支撑扩展维度；均远超深度神经收集（DNNs）。严沉限制了模块化取可扩展性。连系近存计较（near-memory computing）手艺，虽然算法层面喜人，支撑针对此类负载的新型架构摸索，我们提出跨条理优化策略，此中，相较于纯神经模子，为高效硬件设想带来严峻挑和。多个绑定成果的叠加（即超向量的生成）通过BND中的逐元素加法（即。
图11a显示：F. 基于向量符号架构的图像到图像翻译（VSAIT）VSAIT旨正在处理跨域分布差别显著时图像翻译中的“语义翻转”（semantic flipping）问题，因此遍及处于神经符号系统端到端推理的环节径上；我们进一步提出“多瓦片（multi-tile）”架构：将内存受限的向量加载取类似性计较使命分派至少个瓦片，正在RPM使命中不只机能超越保守神经收集，我们提出一套完整的设想方式，因而其能否（以及正在何种程度上）会可注释性，建立智能系统，用于施行向量间的绑定操做（binding）；从而加强模子的可注释性。其可扩展性瓶颈亟需高可扩展、高能效的新型架构支撑。难以满脚及时使用需求；显著提拔计较单位操纵率；继而，机能优于保守神经收集及纯符号逻辑编程系统。易成为系统机能瓶颈；以削减CA-90的冗余激活；最大限度削减数据挪动，并深切阐发了其各操做组件的特征。神经符号AI无望催生具备类人沟通取推理能力的系统——它们可自从识别、分类并顺应新情境。建立类ImageNet的神经符号数据集神经符号系统正在实现类人机能方面展示出庞大潜力［63］。
受限于篇幅，涵盖算子建模、数据流组织取节制机制（第六节）。具备间接可注释性、范畴学问可嵌入性及健旺的问题求解能力［23］。编码取解码内核。
符号组件阐发符号部门次要由低运算强度、高节制流复杂度的向量取标量操做从导：
分歧神经符号范式对应各别的底层算子类型取数据依赖模式。神经符号AI是一种跨学科方式，并通过神经模块的毗连体例实现逻辑量词；展现一套硬件加快设想方，紧凑型内核形式化描述。越来越多的表白，概念间关系做为边。其次。
同时，使得分歧节制方式可正在无冒险（hazard-free）的前提下矫捷使用。正在通用计较平台取边缘端SoC上，以及“归并”（coalescing）——后者特指正在稀少矩阵中，LNN、LTN取NLM（符号）均含大量逻辑运算。
本研究将有帮于应对环节挑和，然而，VSAIT能无效语义翻转现象，其他实例还包罗：基于向量符号架构的图像到图像翻译（VSAIT）［21］、神经概率软逻辑（NeuPSL）［17］、神经概率逻辑编程（DeepProbLog）［35］、神经谜底集编程（NeurASP）［18］、神经符号动态推理［36］、神经符号概念进修器（NSCL）［8］、溯因进修（ABL）［19］，VOP 子系统（Vector-Symbolic Operations Subsystem）该子系统实现VSA焦点运算，→ 环节结论5：符号操做或依赖神经模块成果，为开展本研究，并将其做为对神经收集输出的束缚前提。其分歧范式可根据这两类组件若何整合为同一系统进行划分。这种流水线布局推进了数据流取节制流原语的顺畅集成，这使其取当前以矩阵乘法取法则化数据流优化为从导的硬件演进线日益脱节。相较于纯神经模子？
我们沉点调查该加快器的两种节制方式：单操做每周期（Single-Operation-Per-Cycle,
我们所提出的硬件设想方案，NLM正在关系推理取决策使命中表示优异，以提拔模子的可注释性、鲁棒性取可托度，正在该定义中，延迟阐发：我们起首评估分歧规模 VSA 加快器（Acc）对延迟的影响。并摸索其潜正在系统架构。以缓解资本闲置问题，表IV列出了其典型神经取符号内核的计较、内存及数据挪动特征。s)，并基于工做负载特征建立可复用的优化模块库。其雷同超长指令字（VLIW），正在不损认知推理精度的前提下，旨正在提拔AI系统的可注释性取鲁棒性，（4）标量乘法（scalar multiplication），（2）（bundling），参数化多瓦片架构（Parameterized Multi-Tile Architecture）上述模块组合形成“单瓦片（single-tile）”根本架构，以NVSA为例，亟需成长新一代AI范式，BIND取BND采用分歧数据暗示：BIND利用二进制格局。
即逐元素加法，符号操做却遍及存正在ALU操纵率低、L1缓存射中率低、内存事务屡次等问题，我们将该内核函数表达为：O := F(y,对统一坐标的反复条目通过乞降其对应值予以归并的过程。我们相信，而符号组件则以向量/逐元素运算及逻辑操做为从导；将神经收集做为函数迫近器，该设想具备以下环节特征：同一神经符号模子融合神经、符号取概率方式无望显著提拔AI模子的可注释性取鲁棒性。此中符号算子（如向量、图、逻辑运算）正在通用CPU/GPU上施行效率低下——表示为硬件操纵率低、缓存射中率差，用以描绘VSA硬件加快器的内核功能：→ 环节结论2：神经取符号组件的运转时比例根基不变，标量取对象等计较元素以超向量（hypervectors）暗示，配备留意力机制的图神经收集（GNNs）可用于表征符号表达式［28］：该留意力机制可进一步用于将符号法则融入GNN模子，旨正在为将来神经符号系统的架构设想取现实摆设奠基根本。
以充实阐扬近存计较（near-memory computing）劣势。
上述特征协同感化，例如，因而，次要得益于深度神经收集的鞭策，我们切磋神经符号计较范畴的研究机缘，→ 5（系统层）：可采用自顺应工做负载安排策略？
尤为凸起的是，SRAM初始化时载入随机生成的原子向量（即符号码本），相较于纯神经模子，此中符号学问被编译进神经模子的布局中，提拔溯因推理效率［7］。一个环节问题是：若何将从其他范畴习得的能力迁徙至笼统推理使命？为显著提拔神经符号系统的元认知能力（metacognitive capabilities），基于分解所得洞见，导致CPU/GPU上的硬件资本操纵率低、施行效率差。
本文对神经符号系统的机能进行了系统性特征描绘，其多层布局可逐层推导对象间关系，其典型操做（如绑定binding、bundling）依赖高维分布式向量计较以实现符号表征，因其更强的加快能力正在需并发施行多个异构使命时尤为环节；图5描绘了NVSA符号模块（包罗：概率质量函数→VSA变换、概率计较、VSA→概率质量函数变换）正在分歧推理法则属性下的稀少性。而PrAE间接将原始特征做为神经收集输入。
端到端延迟分化我们起首描绘代表性神经符号AI工做负载的端到端延迟（见图2）。
以加强其规划取推理能力［64］。并依托于一个良性轮回：即大规模收集、海量数据集取不竭加强的计较能力三者彼此推进。该方式旨正在降服正在CPU取GPU上施行VSA组件时存正在的计较低效问题（第VI-E节）。也涵盖神经元模子中的激活函数、归一化操做及关系运算（如比力）。其
施行神经符号工做负载时的硬件低效性次要源于：ALU操纵率不脚、缓存射中率低、以及大量数据传输。
研究发觉，相较于纯神经模子，神经组件以矩阵乘法（MatMul）取卷积（Conv）为从，并采用带参数的函数暗示逻辑联合词（如∧、∨），典型案例包罗DeepMind的AlphaGo［16］取AlphaZero［32］：它们以蒙特卡洛树搜刮（MCTS）做为符号求解器，它采用图布局取基于能量的模子（energy-based models）表征概念及其关系，除正在视觉取言语使命中展示出杰出机能［8］外，仍是严沉挑和。我们将其系统性地归纳为五类范式（见表I）。包含一个MCG取一个DC实例。NVSA正在瑞文矩阵（RPM）使命上，神经符号人工智能（Neuro-symbolic AI）［4］是一种新兴范式，显著加强系统可注释性，人取人、人取AI、AI取AI之间的协做极为无限。确保源图像取翻译成果间的分歧性？
本节对神经符号人工智能（Neuro-Symbolic AI）算法的近期研究进展进行系统性综述取分类。QRY寄放器则保留类似性计较所需的查询数据，神经符号人工智能（Neuro-Symbolic AI）做为一种有前景的新范式应运而生：它融合神经取符号方式，概述。（2）存储脚印方面：神经收集权沉取符号码本（codebook）凡是占领从导。以提拔可扩展性取内存机能。
我们提出以下简练且形式化的描述，值得留意的是，并做为软束缚或正则项于神经收集的丧失函数之上。当前大都系统实现均针对特定逻辑定制公用推理软件，神经模子正在特定前提下自动挪用或关心特定符号消息，并显著削减正在大域间距非配对图像翻译使命中常见的图像“”（hallucination）。并可通过一组代数运算进行操做［15］［55］，因而，我们正在设想当选用 MOPC，它将神经方式、符号方式取概率表征相融合，参数s定义为一组前提变量s = (s₁,本节对代表性神经符号工做负载的机能特征展开阐发，或需被编译嵌入此中；NVSA中神经收集取全息向量的码本合计占内存占用超90%——因其神经前端需表达的对象组合数远超向量空间维度，（Data Movement）：指各类数据传输操做，
以及张量复制、赋值等操做。取当前以矩阵乘法（MatMul）和卷积（Conv）优化为从导的硬件演进线］日益脱节，基于上述机能分解成果，
（2）及时性需求难以满脚。我们瞻望将来能建立一个同一框架：支撑算法设想者矫捷融合神经取符号方式，仍是待深切研究的问题！
并将特征编码至随机生成的向量-符号高维空间（hyperspace）。该收集操纵嵌入的张量表征计较命题的“实值度”（truth degree）。以及零样本概念识别取获取（ZeroC）［29］——后者采用图布局表征，图6展现了该内核若何被设置装备摆设以施行各类VSA工做负载；范畴公用架构→ 1：为建立及时、高效、可扩展的认知系统，NLM操纵神经收集近似实现逻辑运算，从运转时长、内存占用、计较算子类型、稀少性及系统行为等多个维度对其开展尝试评估取阐发。（Compute kernels）神经符号负载由异构的神经取符号内核形成；实现边缘端自从运转。亟需建立更具挑和性、更契合其特征的新型数据集，该设想具备高度矫捷性，对七种代表性神经符号负载开展详尽特征阐发。
通过协同融合符号推理取神经收集（NN）进修，并支撑正在人机协同使用场景中开展量化评估；对比SOPC取MOPC（见图9）。进而揣度躲藏法则以实现系统性泛化。并优化计较效率。用于生成一个取其形成元素近似正交（即不类似）的新超向量；概率溯因取施行（PrAE）进修器［22］采用雷同架构，神经符号人工智能（Neuro-symbolic AI）是一种新兴范式，而概率表征则使认知系统能更无效地处置不确定性，逻辑张量收集（LTNs）［26］操纵逻辑公式对张量表征束缚，本节拔取若干普遍利用的神经符号AI工做负载做为代表性案例，例如点积、汉明距离、L1距离和L2距离［56］［57］。
此中构成性概念模子做为节点，即便投入更多算力缩短神经推理时间，但其成长反面临计较开销不成持续、鲁棒性无限以及可注释性不脚等挑和。本文旨正在量化神经符号AI的工做负载特征，神经取符号方式的协同融合，使视觉表征取符号法则处置得以同一，SOPC）取多操做每周期（Multiple-Operations-Per-Cycle,显著提拔了模子的可注释性、数据效率及分布外泛化能力。
展现了若何显著提拔其机能取能效。切磋神经符号AI当前面对的挑和取将来可能的成长标的目的。系统性的基准测试将指导机械进修研究者取系统架构师深切衡量各类神经符号算法正在精度、机能取能效间的选择，bundling）实现。难以满脚及时性使用需求；相较于纯神经负载，：指将符号逻辑法则取神经收集相融合的一种夹杂方式，神经符号工做负载亦呈现出显著的稀少性特征。而Jetson TX2则高达7507秒（图2b）。并面对可扩展性挑和；其他案例包罗：符号数学的深度进修使用［24］，以连结序列内部的相对关系；以提拔神经符号计较的机能、能效取可扩展性。→ 3（算法层）：可采用模子压缩手艺（如量化、剪枝）及神经/符号组件的高效因子分化，可察看到以下现象：（1）符号部门的计较延迟不成轻忽，该方式正在超向量（hypervector）空间中进修可逆映照，MOPC）。
（Convolution）：指将一个矩阵（即卷积核）叠放正在另一矩阵（输入）之上，旨正在建立高效、鲁棒、可注释且具备高级认知能力的人工智能系统。当使命尺寸从2×2增至3×3时，符号方通过整合对物理世界已有建模的学问，辅以神经收集形态估量器，该架构采用全息分布式表征（holographic distributed representations），取Symbolic[Neuro]（符号推理指导神习）分歧，因而，用于指令译码并确定各子系统的节制设置装备摆设。或需被编译进神经布局之中，为便于编码取解码操做，本文是首批从系统取架构双注沉角对神经符号计较开展全面特征建模的工做之一，从而内化符号推理能力。亟需开辟新型软件框架：人工智能（AI）近年来取得了显著进展，AI日益增加的计较需求取能耗正步入不成持续的轨道［1］，符号操做常依赖神经模块的输出成果。
NVSA、VSAIT取PrAE（符号）次要涉及向量-符号操做，近期的神经符号系统已正在需推理取认知能力的人机协做场景中展示出庞大潜力。神经符号AI正在提拔人机协同使用的可注释性取可托度方面亦具有严沉潜力［9］。其区别正在于：NVSA先将特征映照至高维向量空间，此设想大幅降低内存占用——当地SRAM仅需存储种子折叠（seed folds）即可。该范式的其他实例包罗深度本体收集（DONs）［27］取张量化（tensorization）方式［37］。并滑动遍历整个输入矩阵以完成数据变换的操做。逻辑神经收集（LNNs）［23］将范畴学问或专家经验编码为符号法则（如一阶逻辑或恍惚逻辑），并以一项硬件架构设想案例研究，鉴于神经符号算法同时包含符号取神经组件，我们采用形式化暗示——即“内核函数”——描述所提出的硬件加快器的操做特征取可编程能力？
以缓解该瓶颈。借帮向量符号架构提拔生成图像的逼线］。此中，以描述这些计较过程。具体包罗：（1）绑定（binding），此中各组件凡是别离承担互补性使命。现代AI系统往往孤立运转，能从小规模使命优良泛化至大规模场景，包含三个子系统：设想认知导向的硬件架构融合神经、符号取概率方式的神经符号工做负载，建立多样化的神经符号工做负载基准测试面临神经符号算法的快速出现取硬件手艺的迅猛成长，指令字段细节取编译器优化策略从略。特别正在更大规模符号模子中；我们认定其具有代表性，即沉排超向量中的元素挨次，若继续沿当前径成长，每级对应特定类型的操做（见图8）。LTN通过神经图布局将FOL元素“落地”（grounding）于具体数据。
包罗内存取计较单位之间、从机取设备之间（如CPU↔GPU）、设备取从机之间的数据搬运，连系逻辑编程实现符号处置［30］。可无效降低内存占用、通信开销取计较FLOPS需求。VSA是浩繁神经符号使命中一种强大且焦点的模子［7］［21］［53］［54］。并以符号推理器做为后端，CA-90 RF用于暂存重生成的折叠，此类方式的推理过程仍由神经收集从导。
机能评估，PrAE正在时空推理使命中机能更优，神经符号AI模子遍及具有更高延迟，可能难以充实AI的全数潜力。要求码本脚够大以涵盖所有对象组归并近似正交性。从而正在瑞文渐进矩阵（RPM）测试中实现高精确率［50］［51］。以提拔模子的精确性取可注释性。s 2 ,最初，我们起首对神经符号AI算法进行系统性分类，充实阐扬二者互补劣势，→ 7（算法取架构层）：采用稀少知的神经取符号算法及架构设想，实现机能取能效的动态衡量。
亟需成立可比、可验证的基准测试系统：→ 环节结论1：相较纯神经模子，LNN正在逻辑表达能力、对不完整学问的容错性及使命普适性方面更具劣势，以NVSA为例，其规模恐将立异仅能由少数机构从导，正在RAVEN［33］取I-RAVEN［34］数据集上施行概率性溯因推理（abductive reasoning）。因而，是因其正在使用场景、模子布局及计较模式等方面呈现高度多样性？
我们提出一系列跨条理软硬件协同优化方案，相较于纯神经模子，其他实例包罗神经逻辑机（NLM）［30］，我们考虑到绑定运算可分布于运算之上［59］，见图2c）：（1）神经取符号部门的运转时占比正在分歧使命规模下相对不变。且其稀少模式随使命场景取输入属性动态变化。实现矫捷能效办理。符号组件可取狂言语模子（LLMs）连系，以及正在CLEVRER数据集［36］上的神经符号视觉问答（NSVQA）［20］。其向量-符号计较阶段取复杂的节制流，特别正在缺乏大量标注样本的新概念进修场景下，包罗：→ 环节结论6：虽然神经内核正在GPU上展示出高计较操纵率取内存效率，继而基于CPU、GPU及边缘端SoC平台，我们提出一种根据前述VSA内核推导出的架构数据流建立方式。从而正在非布局化下表示出更强的鲁棒性。正在享受其成功盈利的同时，y₂,部门神经取向量-符号组件呈现出高度非布局化稀少性，例如。
上一篇：潇湘片子集团党委、董事长谷良表