内存模型

操作是系统上执行的任何任务的通用术语。

每个操作都由特定的代理执行。可能的代理包括每个着色器调用、每个主机线程和管线的每个固定功能阶段。

内存位置标识用于 8 位数据的唯一存储。内存操作一次访问一个或多个内存位置组成的一组内存位置，例如，访问内存中 32 位整数的操作将读取/写入一组四个内存位置。访问整个聚合的内存操作可能会访问元素或成员之间的任何填充字节，但不会访问聚合末尾的填充字节。如果其内存位置集的交集为非空，则两组内存位置重叠。内存操作必须不影响其内存位置集之外的内存位置处的内存。

缓冲区和图像的内存位置在 VkDeviceMemory 对象中显式分配，并且在每个着色器调用中为 SPIR-V 变量隐式分配。

具有 Workgroup 存储类并指向块修饰类型的变量共享一组内存位置。

新分配的内存位置中存储的值由 SPIR-V 变量的初始化器（如果存在）确定，否则为未定义。在创建分配时，尚未对任何其内存位置进行任何 内存操作。初始化不被视为内存操作。

对于操作 A 和内存位置 M

引用是特定代理可以用来访问一组内存位置的对象。在主机上，引用是主机虚拟地址。在设备上，引用是

通过不同引用进行的两次内存访问可能需要 下面定义的可用性和可见性操作。

SPIR-V 中定义了指令的动态实例 (https://registry.khronos.org/spir-v/specs/unified1/SPIRV.html#DynamicInstance)，作为引用静态指令特定执行的一种方法。程序顺序是单个着色器调用执行的指令动态实例的排序

对于在主机上执行的指令，源语言定义了程序顺序关系（例如，作为“sequenced-before”）。

着色器调用相关是在调用上定义的等价关系，定义为以下内容的对称和传递闭包：

着色器调用顺序是在着色器调用相关的调用执行的指令的动态实例上的偏序。

原子指令和屏障指令包括作用域，这些作用域标识着色器调用的集合，这些着色器调用必须遵守以下定义的请求的操作的排序和原子性规则。

各种作用域在着色器章节中详细描述。

设备上的原子操作是任何名称以 OpAtomic 开头的 SPIR-V 操作。主机上的原子操作是使用 std::atomic 类型对象执行的任何操作。

每个原子操作都有一个内存作用域和一个语义。非正式地说，作用域确定它相对于哪些其他代理是原子的，而语义约束其与其他内存访问的排序。设备原子操作具有显式的作用域和语义。每个主机原子操作都隐式使用 CrossDevice 作用域，并使用等效于 C++ std::memory_order 值（relaxed、acquire、release、acq_rel 或 seq_cst）的内存语义。

当且仅当以下所有条件都为真时，两个原子操作 A 和 B 才是潜在互序的

当且仅当它们是潜在互序的，并且以下任何一个条件为真时，两个原子操作 A 和 B 才是互序的

对于给定的原子写入 A，所有与 A 互序的原子写入都以称为 A 的作用域修改顺序的顺序发生。A 的作用域修改顺序与其他操作无关。

默认情况下，非原子内存操作可能被一个代理以不同于另一个代理写入的顺序观察到。

原子操作和一些同步操作包括内存语义，这些是约束同一代理执行的其他内存访问（包括非原子内存访问和可用性和可见性操作）的顺序的标志，这些内存访问可以被其他代理观察到，或者可以观察到其他代理的访问。

包括语义的设备指令是 OpAtomic*、OpControlBarrier、OpMemoryBarrier 和 OpMemoryNamedBarrier。包括语义的主机指令是一些 std::atomic 方法和内存栅栏。

SPIR-V 支持以下内存语义

内存语义操作数还包括存储类语义，指示哪些存储类受同步约束。SPIR-V 存储类语义包括

每个 SPIR-V 内存操作访问单个存储类。同步操作中的语义可以包括存储类的组合。

UniformMemory 存储类语义适用于对 PhysicalStorageBuffer、ShaderRecordBufferKHR、Uniform 和 StorageBuffer 存储类中的内存的访问。WorkgroupMemory 存储类语义适用于对 Workgroup 存储类中的内存的访问。ImageMemory 存储类语义适用于对 Image 存储类中的内存的访问。OutputMemory 存储类语义适用于对 Output 存储类中的内存的访问。

内存语义操作数可以还包括可用性和可见性标志，这些标志应用可用性和可见性中描述的可用性和可见性操作。可用性/可见性标志是

这些操作的具体细节在可用性和可见性语义中定义。

主机原子操作可能支持不同的内存语义和同步操作列表，具体取决于主机架构和源语言。

在原子操作 A 对一组内存位置 M 执行释放操作之后，以 A 开头的释放序列是 A 的作用域修改顺序中最长的连续子序列，它由以下组成：

同步于是操作之间的关系，其中每个操作要么是原子操作，要么是内存屏障（也称为主机上的栅栏）。

如果 A 和 B 是原子操作，则 A 与 B 同步当且仅当以下所有条件都为真：

OpControlBarrier、OpMemoryBarrier 和 OpMemoryNamedBarrier 是 SPIR-V 中的内存屏障指令。

如果 A 是释放屏障，而 B 是执行获取操作的原子操作，则 A 与 B 同步当且仅当以下所有条件都为真：

如果 A 是执行释放操作的原子操作，而 B 是获取屏障，则 A 与 B 同步当且仅当以下所有条件都为真：

如果 A 是释放屏障，而 B 是获取屏障，则 A 与 B 同步当且仅当以下所有条件都为真：

如果 A 是释放屏障，B 是获取屏障，而 C 是控制屏障（其中 A 可以等于 C，而 B 可以等于 C），则 A 与 B 同步当且仅当以下所有条件都为真：

设 F 为片段着色器调用的排序，使得调用 F₁ 在调用 F₂ 之前排序当且仅当 F₁ 和 F₂ 如片段着色器互锁中所述重叠，并且 F₁ 在 F₂ 之前执行互锁代码。

如果 A 是 OpEndInvocationInterlockEXT 指令，而 B 是 OpBeginInvocationInterlockEXT 指令，则如果执行 A 的代理在 F 中在执行 B 的代理之前排序，则 A 与 B 同步。A 和 B 都被认为具有 FragmentInterlock 内存作用域和 UniformMemory 和 ImageMemory 的语义，A 被认为具有 Release 语义，而 B 被认为具有 Acquire 语义。

如果 A 是释放屏障，而 B 是获取屏障，则 A 与 B 同步当且仅当以下所有条件都为真：

没有其他释放和获取屏障彼此同步。

系统同步于是设备或主机上任意操作之间的关系。某些操作彼此系统同步，这非正式地意味着第一个操作发生在第二个操作之前，并且同步是在不使用应用程序可见的内存访问的情况下执行的。

如果在两个操作 A 和 B 之间存在执行依赖关系，则第一个同步范围内的操作与第二个同步范围内的操作系统同步。

系统同步于隐式包括所有存储类语义，并具有 CrossDevice 作用域。

如果 A 系统同步于 B，我们也可以说 A 在 B 之前系统同步，而 B 在 A 之后系统同步。

默认情况下，非原子内存操作被视为私有，这意味着此类内存操作不打算用于与其他代理通信。设置了 NonPrivatePointer/NonPrivateTexel 位的内存操作被视为非私有，并且旨在用于与其他代理通信。

更准确地说，要在不同的代理之间将私有内存操作进行位置排序，需要使用系统同步于而不是基于着色器的同步。私有内存操作仍然遵守程序顺序。

原子操作始终被视为非私有。

设 SC 为存储类语义的非空集合。然后（使用模板语法），如果以下任何一项为真，则操作 A 线程间先于发生<SC>操作 B：

当且仅当以下任何一种情况为真时，操作 A 先发生于 操作 B

后发生 的定义类似。

可用性 和 可见性 是写入操作的状态，它们（非正式地）跟踪写入在系统中传播的程度，即哪些代理和引用能够观察到写入。可用性状态是每个内存域的属性。可见性状态是每个 (代理，引用) 对的属性。可用性和可见性状态是每次写入操作的每个内存位置的属性。

内存域根据使用该域的内存访问的代理命名。着色器调用使用的域按层次结构组织成多个较小的内存域，这些域对应于不同的作用域。每个内存域都被认为是作用域的对偶，反之亦然。Vulkan 中定义的内存域包括

内存域按上面列出的顺序嵌套，但着色器调用实例域除外，列表中靠后的内存域嵌套在列表中靠前的内存域中。着色器调用实例域在列表中的位置取决于具体实现，并根据该位置进行嵌套。着色器调用实例域的范围不大于队列族实例域。

可用性操作、可见性操作 和 内存域操作 会更改先于它们发生且包含在其源作用域中的写入操作的状态，使其对其目标作用域可用或可见。

如何确定作用域取决于具体的操作。可用性和内存域操作会扩展写入可用的内存域集合。可见性操作会扩展写入可见的 (代理，引用，内存位置) 元组集合。

回想一下，可用性和可见性状态是每个内存位置的属性，并设 W 是代理 A 通过引用 R 执行的对一个或多个位置的写入操作。设 L 是写入的位置之一。(W,L)（对 L 的写入 W）最初对任何内存域都不可用，并且仅对 (A,R,L) 可见。一个发生于 W 之后的可用性操作 AV 并且其源作用域中包含 (A,R,L) 使 (W,L) 对其目标作用域中的内存域可用。

一个发生于 AV 之后，并且对于其源作用域中 (W,L) 可用的内存域操作 DOM 使 (W,L) 在目标内存域中可用。

一个发生于 AV（或 DOM）之后，并且对于其源作用域中的任何域中 (W,L) 都可用的可见性操作 VIS 使 (W,L) 对其目标作用域中包含的所有 (代理，引用，L) 元组可见。

如果写入 W₂ 发生于 W 之后，并且它们的内存位置集合重叠，则对于那些重叠的内存位置，W 将不会对所有代理/引用可用/可见（并且未来的 AV/DOM/VIS 操作无法恢复 W 对这些位置的写入）。

可用性、内存域和可见性操作被视为其他非原子内存访问，用于内存语义，这意味着它们可以通过 release-acquire 序列或内存屏障排序。

一个可用性链是一系列对越来越广泛的内存域的可用性操作，其中链的元素 N+1 在元素 N 的目标内存域的双重作用域实例中执行，并且元素 N 先于元素 N+1 发生。例如，一个目标作用域为工作组实例域的可用性操作先于由同一工作组中的调用执行的对着色器域的可用性操作。一个发生于 W 之后，并且其源作用域中包含 (A,R,L) 的可用性链 AVC 使 (W,L) 对其最终目标作用域中的内存域可用。单元素的可用性链只是可用性操作。

类似地，一个可见性链是一系列来自越来越窄的内存域的可见性操作，其中链的元素 N 在元素 N+1 的源内存域的双重作用域实例中执行，并且元素 N 先于元素 N+1 发生。例如，一个源作用域为着色器域的可见性操作先于由同一工作组中的调用执行的源作用域为工作组实例域的可见性操作。一个发生于 AVC（或 DOM）之后，并且对于其源作用域中的任何域中 (W,L) 都可用的可见性链 VISC 使 (W,L) 对其最终目标作用域中包含的所有 (代理，引用，L) 元组可见。单元素的可见性链只是可见性操作。

以下操作会生成可用性、可见性和域操作。当描述多个可用性/可见性/域操作时，它们会按照列出的顺序彼此进行系统同步。

执行内存依赖的操作会生成

vkFlushMappedMemoryRanges 执行一个可用性操作，其源范围是（代理，引用）=（所有主机线程，传递给命令的所有映射内存范围），目标范围是主机域。

vkInvalidateMappedMemoryRanges 执行一个可见性操作，其源范围是主机域，目标范围是（代理，引用）=（所有主机线程，传递给命令的所有映射内存范围）。

vkQueueSubmit 执行从主机到设备的内存域操作，以及一个可见性操作，其源范围是设备域，目标范围是设备上的所有代理和引用。

通过代理 A 进行的内存屏障或原子操作，如果其语义中包含 MakeAvailable，则执行一个可用性操作，其源范围包括代理 A 和该指令存储类语义中的所有存储类中的所有引用以及所有内存位置，其目标范围是如下所述选择的一组内存域。隐式可用性操作在屏障或原子操作与所有在屏障或原子操作之前按程序排序的其他操作之间按程序排序。

通过代理 A 进行的内存屏障或原子操作，如果其语义中包含 MakeVisible，则执行一个可见性操作，其源范围是如下所述选择的一组内存域，其目标范围包括代理 A 和该指令存储类语义中的所有存储类中的所有引用以及所有内存位置。隐式可见性操作在屏障或原子操作与所有在屏障或原子操作之后按程序排序的其他操作之间按程序排序。

内存域的选择基于指令的内存范围，如下所示

当代理 A 执行的可用性操作的目标范围中包含内存域 D 时，其中 D 对应于范围实例 S，它也包括对应于每个较小的范围实例 S' 的内存域，S' 是 S 的子集且包含 A。可见性操作也是如此。

包含 MakePointerAvailable 的内存写入指令或包含 MakeTexelAvailable 的图像写入指令，执行一个可用性操作，其源范围包括用于执行写入的代理和引用以及指令写入的内存位置，其目标范围是由 可用性和可见性语义 中指定的 Scope 操作数选择的一组内存域。隐式可用性操作在写入和所有在写入之后按程序排序的其他操作之间按程序排序。

包含 MakePointerVisible 的内存读取指令或包含 MakeTexelVisible 的图像读取指令，执行一个可见性操作，其源范围是由 可用性和可见性语义 中指定的 Scope 操作数选择的一组内存域，其目标范围包括用于执行读取的代理和引用以及指令读取的内存位置。隐式可见性操作在读取和所有在读取之前按程序排序的其他操作之间按程序排序。

设 X 和 Y 是对重叠内存位置集 M 的内存访问，其中 X != Y。设 (A_X,R_X) 是用于 X 的代理和引用，(A_Y,R_Y) 是用于 Y 的代理和引用。现在，让 “→” 表示先于发生，“→^rcpo” 表示程序排序之前的自反闭包。

如果 D₁ 和 D₂ 是不同的内存域，则让 DOM(D₁,D₂) 表示从 D₁ 到 D₂ 的内存域操作。否则，让 DOM(D,D) 为占位符，使得 X→DOM(D,D)→Y 当且仅当 X→Y。

如果满足以下任一条件，则 X 在 M 中的位置 L 上位置排序在 Y 之前

设 X 和 Y 是访问重叠内存位置集合 M 的操作，其中 X != Y，且 X 和 Y 中至少有一个是写操作，并且 X 和 Y 不是互斥有序的原子操作。如果对于 M 中的每个位置，X 和 Y 之间不存在位置有序关系，则存在数据竞争。

应用程序必须确保在其应用程序执行期间不会发生数据竞争。

设 X 为写操作，Y 为读操作，它们的内存位置集合重叠，且 M 为重叠的内存位置集合。设 M₂ 为 M 的非空子集。当且仅当以下所有条件都成立时，对于内存位置 M₂，X 对 Y 是可见的：

如果 X 对 Y 可见，则 Y 读取 X 对于位置 M₂ 写入的值。

Reads-from 是操作之间的一种关系，其中第一个操作是写操作，第二个操作是读操作，并且第二个操作读取第一个操作写入的值。From-reads 是操作之间的一种关系，其中第一个操作是读操作，第二个操作是写操作，并且第一个操作读取的值早于第二个操作在其作用域修改顺序或位置顺序中的写入（或者第一个操作从初始值读取，第二个操作是对相同位置的任何写入）。

然后，实现必须保证以下关系的并集中不存在环：

如果着色器阶段（而非 Vertex）中的着色器调用 A 从存储类 CallableDataKHR、IncomingCallableDataKHR、RayPayloadKHR、HitAttributeKHR、IncomingRayPayloadKHR 或 Input 中的对象执行内存读取操作 X，则 X 在系统同步之后发生，在生成调用 A 的着色器调用中，所有对相应的 CallableDataKHR、IncomingCallableDataKHR、RayPayloadKHR、HitAttributeKHR、IncomingRayPayloadKHR 或 Output 存储变量的写入操作之后，并且这些写入操作对 X 都是可见的。

对 vkFreeMemory 的调用必须发生在对该 VkDeviceMemory 对象中所有内存位置的所有内存操作之后。

SPIR-V 变量的取消分配由系统管理，并且发生在对这些变量的所有操作之后。

本小节为应用/编译器开发人员提供了更易于理解的内存模型后果。

设 SC 为释放或获取操作或屏障指定的存储类。

控制屏障（即使它没有内存语义）也不得针对任何内存屏障重新排序。

此内存模型允许在相同的内存位置上执行具有和不具有可用性和可见性操作的内存访问，以及原子操作。这对于能够推理以多种方式重用的内存至关重要，例如在不同着色器调用或绘制调用的生命周期中。虽然 GLSL（和旧版 SPIR-V）出于历史原因将“一致性”修饰符应用于变量，但此模型将每个内存访问指令视为具有可选的隐式可用性/可见性操作。GLSL 到 SPIR-V 的编译器应将一致性变量上的所有（非原子）操作映射到此模型中的 Make{Pointer,Texel}{Available}{Visible} 标志。

原子操作隐式具有可用性/可见性操作，并且这些操作的范围取自原子操作的范围。

对于使用 Vulkan 内存模型的 SPIR-V，OutputMemory 存储类用于同步对细分控制输出变量的访问。对于没有通过 OpMemoryModel 启用 Vulkan 内存模型的旧版 SPIR-V，细分输出可以使用没有特定内存范围或语义的控制屏障进行排序，如下所述。

令 X 和 Y 是着色器调用 A_X 和 A_Y 执行的内存操作。当且仅当以下所有条件都为真时，操作 X 在操作 Y 之前是细分输出排序的

如果 TessellationControl 执行模型中的着色器调用 A_X 和 A_Y 分别在 Output 存储类上执行内存操作 X 和 Y，并且 X 在 Workgroup 范围内在 Y 之前按细分输出排序，则 X 在 Y 之前按位置排序，如果 X 是写入且 Y 是读取，则 X 对 Y 可见。

对于协作矩阵加载指令（OpCooperativeMatrixLoadKHR , OpCooperativeMatrixLoadNV , OpCooperativeMatrixLoadTensorNV）的每个动态实例，矩阵范围内的某些实现相关的调用会从被定义为由该指令访问的每个内存位置执行非原子加载。

对于协作矩阵存储指令（OpCooperativeMatrixStoreKHR , OpCooperativeMatrixStoreNV , OpCooperativeMatrixStoreTensorNV）的每个动态实例访问的每个内存位置，矩阵范围内的单个实现相关的调用会对该内存位置执行非原子存储。