为 Amazon Aurora PostgreSQL 设计负责任的 AI 控制

公司动态 AWS 机器学习 原文语言:英文

一个客户支持聊天机器人,用于查询存储在 Amazon Aurora 中的历史工单和知识库文章。

全文

为 Amazon Aurora PostgreSQL 设计负责任的 AI 控制措施

一个查询存储在 Amazon Aurora PostgreSQL 兼容版中的历史工单和知识库文章的客户支持聊天室可以提供快速且结合上下文的答案。然而,这也带来了隐私、准确性、安全性和治理方面的挑战,特别是当底层数据包含敏感的客户信息时。在这篇文章中,我们将 AWS 的八个负责任 AI (RAI) 维度与 Aurora PostgreSQL 的功能进行了映射。然后,我们探讨了可解释性维度的设计模式,并以基于检索增强生成 (RAG) 的客户支持聊天机器人作为参考用例。本文深入实现了其中一个维度——可解释性。请将其视为系列文章的第一部分,而非全部八个维度的完整构建。

Amazon Aurora PostgreSQL 兼容版通过其原生的 Aurora 机器学习 (Aurora ML) 功能,使负责任 AI 的落地运营变得更加简单。借助 Aurora ML,您可以直接从 SQL 调用 Amazon SageMaker 端点和 Amazon Bedrock 基础模型,而无需移动数据、定制提取、转换和加载 (ETL) 管道或复杂的集成。本文使用 Aurora ML 从 SQL 生成向量嵌入,将嵌入管道保留在数据库层中。

AWS 在 AWS 架构良好框架负责任 AI 镜片(AWS Well-Architected Responsible AI Lens)、Amazon Bedrock Guardrails 以及《AI 负责任使用指南》(Responsible Use of AI Guide)中发布了八个核心的负责任 AI 维度。这些维度(公平性、可解释性、隐私与安全性、安全性、可控性、真实性与鲁棒性、治理和透明度)为评估和实现值得信赖的 AI 系统提供了一个结构化框架。

用例概述

客户支持系统通常难以在保持隐私和合规性的同时,提供准确且结合上下文的响应。考虑一个构建在 Amazon Aurora PostgreSQL 上的客户支持聊天机器人,它使用带有 pgvector 嵌入的 RAG、Amazon Bedrock 模型推理以及 AWS 负责任 AI 安全护栏来提供有依据、可解释的响应。

客户可以提出诸如“为什么我上一笔账单很高?”或“我的上一个订单在哪里?”之类的问题,并获得带有引用的准确答案,同时通过个人身份信息 (PII) 红色脱敏和访问控制使敏感数据保持隐藏。

将 AWS 负责任 AI 维度映射到 Aurora PostgreSQL

下表将 AWS 的八个负责任 AI 维度映射到构建在 Amazon Aurora PostgreSQL 兼容版上的客户支持机器人的实际实现策略。它突出了数据库功能、AWS AI 服务和治理控制如何协同工作,以提供值得信赖、安全且可解释的基于 RAG 的聊天机器人。

RAI 维度 其含义 实现方法 关键 PostgreSQL / Aurora 特性 主要 AWS 服务 / 工具

1. 公平性 无论语言、地区或客户资料如何,聊天机器人应提供同等质量的响应 使用多样化支持查询进行偏见测试。将人口统计数据与嵌入解耦。元数据过滤和多语言测试。 pgvector、JSONB 元数据、SQL 过滤、视图 Amazon Bedrock 模型评估、Amazon SageMaker Clarify

2. 可解释性 用户和支持团队应了解聊天机器人给出特定答案的原因 记录检索到的代码块、相似度得分和引用。具有来源归属的 RAG 追踪。完整的交互日志。 chat_interactions 表、数组列、JSONB 日志、pgvector 相似度 Amazon Bedrock 知识库、Amazon Bedrock InvokeModel

3. 隐私和安全性 保护工单中的客户 PII,例如姓名、电话和订单详情 在嵌入前进行 PII 脱敏。行级安全性 (RLS)、加密、IAM 认证、RBAC 和匿名化。 行级安全性、pgcrypto、角色、策略 Amazon Bedrock Guardrails、AWS KMS、Amazon Comprehend、AWS IAM

4. 安全性 帮助防止有害、有毒或不适当的响应 内容过滤器、拒绝的主题、提示词注入保护、速率限制和审核。 SQL 函数、交互日志 Amazon Bedrock Guardrails

5. 可控性 引导聊天机器人行为并升级到人工处理的能力 人机回环升级、反馈表、功能标志、提示词控制和紧急停止开关。 chat_feedback 表、升级表、触发器 Amazon Bedrock Guardrails、Amazon CloudWatch、AWS CloudTrail

6. 真实性和稳健性:验证基于支持数据的准确响应,避免幻觉。使用相似度阈值的 RAG 归根。版本化文档和验证检查。pgvector 类型列、CHECK 约束、触发器、Amazon Bedrock Guardrails、Amazon Bedrock 模型评估

7. 治理:维护聊天机器人决策的审计追踪和问责。带保留策略的审计日志。模型版本跟踪和 Amazon S3 存档。pgaudit、pg_cron、JSONB 模型元数据,AWS Audit Manager、AWS CloudTrail

8. 透明度:明确告知用户他们正在与 AI 交互并显示数据来源。Powered-by-AI 提示、引用、隐私声明和来源说明。SQL 视图、交互日志、Amazon Bedrock 知识库、AWS AI 服务卡

注意:这些是示例方法,可能因使用场景而异。

解决方案概述

此参考架构展示了负责任 AI 控制如何映射到基于 RAG 的聊天机器人在 Amazon Aurora PostgreSQL 兼容版的各个组件。

一个摄取管道对支持工单、FAQ 和产品文档进行 PII 脱敏,然后将其转换为向量嵌入。当用户提交查询时,AWS Lambda 在 Aurora PostgreSQL 上执行语义搜索,应用 Amazon Bedrock Guardrails 进行隐私和归根检查,将受保护的上下文发送给 Amazon Bedrock 基础模型(FM),并记录每次交互以实现可解释性和治理。

Lambda 在企业数据中归根响应,脱敏 PII 并应用行级安全(RLS)以保护隐私,记录引用和交互日志以实现可解释性,并写入审计记录以实现治理。

何时自行构建而非使用托管服务:Amazon Bedrock 知识库提供内置 RAG 与引用,是在默认检索和引用行为满足需求时的更简易选择。当您需要将来源信息存储在自有模式中时,请使用本文的自定义日志设计。该来源信息包括检索与引用的来源、相似度分数以及可通过 SQL 查询并在您自己的策略下保留的 Guardrail 跟踪。

下图展示了该解决方案的端到端架构,显示了数据摄取流程(左)、查询与响应流程(中)以及在每个阶段(中、右)应用的负责任 AI 控制。

图 1:基于 RAG 的客户支持聊天机器人在 Amazon Aurora PostgreSQL 上的负责任 AI 控制架构

数据摄取

摄取管道在脱敏 PII 后,将历史支持工单、FAQ 和产品文档加载到 Amazon Aurora PostgreSQL,使用 pgvector 和 aws_ml 扩展进行向量操作并集成 Aurora ML。

Aurora ML 的 aws_bedrock.invoke_model_get_embeddings 函数将文本转换为 Amazon Titan Text Embeddings V2 向量(1024 维),并由 pgvector 存储。

Aurora PostgreSQL 同时充当结构化客户数据的关系存储和语义搜索的向量数据库。

查询与响应流程

当用户提出问题时,聊天机器人遵循以下步骤(见图 1):

用户通过 HTTPS 向 Amazon API Gateway 发送自然语言问题。

API Gateway 调用 AWS Lambda。

将问题转化为向量。Lambda 调用 Aurora ML 的 aws_bedrock.invoke_model_get_embeddings 函数,使用 Amazon Titan Text Embeddings V2。这必须与用于嵌入知识库的模型相同,以便问题和文档生成可比较的 1024 维向量。

执行相似度搜索。Aurora PostgreSQL 使用 pgvector 的余弦距离运算符将问题向量与存储的知识向量比较,并返回带有相似度分数的最相关片段。行级安全限制结果仅返回当前租户的数据。

构建增强提示。Lambda 将用户的问题与检索到的片段组合,并为每个片段标记 [Source N]。这为模型提供了数据库中的知识,否则模型无法获得。

生成有依据的答案。Lambda 将提示发送至 Amazon Bedrock。Guardrails 检查输入(内容过滤、禁用主题、PII),基础模型基于检索到的片段生成答案,随后进行上下文归根检查以确认答案得到这些来源的支持。

记录交互以实现可解释性。Lambda 将完整的交互写入 chat_interactions 表:问题、检索到的块 ID、相似度分数、实际引用的来源、护栏追踪以及模型 ID。

Lambda 将答案及其来源引用返回给用户。

支持性操作与每个请求分开运行:

摄取:文档嵌入在内容加载时创建一次(参见数据摄取)。

保留:pg_cron 将较旧的交互记录归档到 Amazon Simple Storage Service(Amazon S3)。

监控:Lambda 将日志和指标发送到 Amazon CloudWatch,AWS CloudTrail 记录 API 活动以供审计。

先决条件

在开始之前,请确保已具备以下条件:

已启用 pgvector 扩展的 Amazon Aurora PostgreSQL 集群。HNSW 索引和迭代索引扫描需要更新的 pgvector 版本,Aurora ML 和 Amazon Bedrock 模型支持则分别有各自的版本要求。请参阅 Aurora ML、pgvector 和 Bedrock 文档获取当前最低版本,而不是固定使用特定版本。

在集群上启用 aws_ml 扩展(CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE),并为集群附加具有 bedrock:InvokeModel 权限的 AWS 身份与访问管理(IAM)角色。Aurora ML 在集群所在的区域调用 Bedrock。

在集群上启用 aws_s3 扩展(CREATE EXTENSION IF NOT EXISTS aws_s3 CASCADE),并为 s3Export 功能附加 IAM 角色,以便保留作业能够导出到 Amazon S3。

使用 Amazon Titan Text Embeddings V2(amazon.titan-embed-text-v2:0)进行嵌入,并使用支持 Bedrock Converse API 的基础模型进行答案生成的 Amazon Bedrock 访问权限。模型可用性和推荐版本会随时间变化,请从 Amazon Bedrock 的“受支持的基础模型”中选择当前模型。较新的模型通过跨区域推理配置文件 ID 调用。

已为 PII 保护、内容过滤和上下文定位配置 Amazon Bedrock 护栏(在护栏配置中启用上下文定位策略)。

为 Amazon Bedrock、Lambda 和 Aurora PostgreSQL 配置具有相应权限的 IAM 角色。

自定义集群参数组,将 pgaudit 和 pg_cron 添加到现有的 shared_preload_libraries 值中(追加而不是替换,以保留 pg_stat_statements 等默认值。此操作需要重启集群)。将 cron.database_name 设置为目标数据库。

具备 PostgreSQL、SQL 和 Python 的基本熟悉度。

注意:此处列出的先决条件侧重于数据库层。您的应用层(例如 AWS Lambda、Amazon API Gateway 和聊天 UI)是独立的,取决于您的部署架构。

可解释性维度的设计模式

本节介绍数据库层的设计模式,使每个 AI 生成的响应都可追溯,从用户查询、检索、护栏评估到最终答案及其引用。

步骤 1:设置数据库模式

为客户数据、聊天会话、交互日志和反馈创建核心表:

首先创建所需的模式和表。每个表对应特定的负责任 AI 维度:

CREATE SCHEMA IF NOT EXISTS rai_postgresql;

customers 表存储租户感知的访问控制配置文件:

CREATE TABLE rai_postgresql.customers ( customer_id UUID PRIMARY KEY DEFAULT gen_random_uuid(), full_name VARCHAR(150) NOT NULL, email VARCHAR(255) UNIQUE NOT NULL, phone VARCHAR(20), created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW(), is_active BOOLEAN DEFAULT TRUE, metadata JSONB DEFAULT '{}' );

chat_interactions 表是可解释性实现的核心。它记录每个查询-响应循环的完整 RAG 溯源,包括检索到的块 ID、相似度分数、引用与检索来源、护栏追踪以及使用的模型:

CREATE TABLE rai_postgresql.chat_interactions ( interaction_id UUID PRIMARY KEY DEFAULT gen_random_uuid(), session_id UUID NOT NULL, customer_id UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id), turn_number INTEGER NOT NULL DEFAULT 1, request_text TEXT NOT NULL, request_timestamp TIMESTAMP WITH TIME ZONE DEFAULT NOW(), response_text TEXT, response_timestamp TIMESTAMP WITH TIME ZONE, response_latency_ms INTEGER, intent VARCHAR(100), confidence_score NUMERIC(5, 4), -- Explainability columns retrieved_chunk_ids UUID[], -- IDs of chunks returned by pgvector similarity_scores NUMERIC[], -- cosine similarity per chunk citations JSONB, -- cited vs. all-retrieved sources guardrail_assessment JSONB, -- full Guardrail trace model_id VARCHAR(100), -- Bedrock model used guardrail_version VARCHAR(20) -- Guardrail version applied );

由于 chat_interactions 存储了原始的 request_text 和 response_text,因此必须以保护源数据相同的方式对其进行保护:在 INSERT 之前编辑掉 PII(重复使用摄入时的护栏),或者使用 pgcrypto 加密这些列,并对日志表应用行级安全性(Row-Level Security),以便各个租户无法读取彼此的交互内容。记录未经保护的客户内容将会破坏本设计旨在展示的隐私和安全控制。

chat_feedback 表用于捕获用户对聊天机器人响应的评分和评论,这支持了可控性(Controllability)维度。ON DELETE CASCADE 子句确保了 90 天的保留期清理不会因外键冲突而失败:

CREATE TABLE rai_postgresql.chat_feedback ( feedback_id UUID PRIMARY KEY DEFAULT gen_random_uuid(), interaction_id UUID NOT NULL REFERENCES rai_postgresql.chat_interactions(interaction_id) ON DELETE CASCADE, customer_id UUID NOT NULL REFERENCES rai_postgresql.customers(customer_id), rating SMALLINT NOT NULL CHECK (rating BETWEEN 1 AND 5), feedback_text TEXT, created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW() );

第 2 步:使用 pgvector 和 Aurora ML 准备知识库

通过向量嵌入、租户隔离和 Aurora ML 集成创建检索层:

CREATE EXTENSION IF NOT EXISTS vector; CREATE EXTENSION IF NOT EXISTS aws_ml CASCADE; CREATE TABLE rai_postgresql.knowledge_chunks ( chunk_id UUID PRIMARY KEY DEFAULT gen_random_uuid(), ticket_id UUID NOT NULL, content TEXT NOT NULL, embedding VECTOR(1024), -- Amazon Titan Text Embeddings V2 (default 1024) metadata JSONB, -- source, date, category, product tenant_id UUID, created_at TIMESTAMP DEFAULT NOW() );

创建 HNSW 索引以实现快速近似最近邻搜索:

-- HNSW index for approximate nearest neighbor search CREATE INDEX idx_chunks_embedding ON rai_postgresql.knowledge_chunks USING hnsw (embedding vector_cosine_ops);

通过行级安全性(Row-Level Security)强制实现租户隔离,以便在数据离开数据库之前,向量搜索结果仅限于当前租户:

-- Row-Level Security for tenant isolation (Privacy & Security) -- FORCE RLS, non-owner role, safe current_setting ALTER TABLE rai_postgresql.knowledge_chunks ENABLE ROW LEVEL SECURITY; ALTER TABLE rai_postgresql.knowledge_chunks FORCE ROW LEVEL SECURITY; CREATE ROLE app_user; GRANT USAGE ON SCHEMA rai_postgresql TO app_user; GRANT SELECT ON rai_postgresql.knowledge_chunks TO app_user; CREATE POLICY tenant_isolation ON rai_postgresql.knowledge_chunks USING ( current_setting('app.current_tenant', true) IS NOT NULL AND tenant_id = current_setting('app.current_tenant', true)::uuid );

使用 Aurora ML 直接从 SQL 生成向量嵌入,将嵌入管道保持在数据库层内:

-- Generate embeddings using Aurora ML -- No Lambda/boto3 needed for embeddings --- runs inside the database UPDATE rai_postgresql.knowledge_chunks SET embedding = aws_bedrock.invoke_model_get_embeddings( 'amazon.titan-embed-text-v2:0', -- model_id 'application/json', -- content_type 'embedding', -- json_key to extract json_build_object('inputText', content)::text -- model_input )::vector WHERE embedding IS NULL;

在将数据插入知识库之前,请务必编辑 PII。使用 Amazon Bedrock Guardrails(ApplyGuardrail API)或 Amazon Comprehend(detect_pii_entities API)在您的摄入管道中识别和屏蔽 PII,如下例所示:

# 示例:使用 Bedrock Guardrails ApplyGuardrail API 擦除 PII response = bedrock.apply_guardrail(guardrailIdentifier=guardrail_id, source='INPUT', content=[{'text': {'text': raw_text}}]) # 当没有标记任何内容时,outputs 为空;掩码处理需要 ANONYMIZE PII 策略(而非 BLOCK) redacted_text = (response['outputs'][0]['text'] if response.get('outputs') else raw_text)

步骤 3:检索上下文并生成回复

当查询到达您的应用层时,使用 pgvector 余弦相似度运算符检索最匹配的知识块。以下 SQL 查询展示了此模式:

-- 以 app_user 身份连接并为此事务设置租户,以便 RLS 返回行 SET LOCAL app.current_tenant = '11111111-1111-1111-1111-111111111111'; -- 为查询检索前 5 个相关的块 SELECT chunk_id, content, metadata, 1 - (embedding <=> :query_embedding::vector) AS cosine_similarity FROM rai_postgresql.knowledge_chunks WHERE metadata ->> 'category' = :intent_category AND 1 - (embedding <=> :query_embedding::vector) >= 0.7 -- 丢弃弱匹配项 ORDER BY embedding <=> :query_embedding::vector LIMIT 5;

注意:0.7 的余弦相似度截断会丢弃弱相关块,以便模型不会基于噪声进行回答。请根据您自己的数据进行调整。分类过滤器和此阈值都会对 HNSW 结果进行后过滤,并且可能返回少于 5 行的数据。请提高 hnsw.ef_search 或使用迭代索引扫描(pgvector 0.8.0+)来进行补偿。

以下伪代码展示了上下文扎根、护栏干预处理、引用解析和交互日志记录的关键模式。这些代码片段侧重于负责任 AI 逻辑,而不是应用程序的底层搭建。

在 Bedrock Converse API 中使用 guardContent 块启用上下文扎根:

# 上下文扎根 --- 标记用于护栏评估的上下文和查询 response = bedrock.converse( modelId=model_id, messages=[{'role': 'user', 'content': [ {'guardContent': {'text': {'text': context, 'qualifiers': ['grounding_source']}}}, {'guardContent': {'text': {'text': query, 'qualifiers': ['query']}}}, {'text': prompt} ]}], guardrailConfig={'guardrailIdentifier': guardrail_id, 'guardrailVersion': '1', 'trace': 'enabled'}, inferenceConfig={'maxTokens': 500, 'temperature': 0.1})

检查 stopReason 以处理护栏阻止响应的情况:

# 处理护栏干预 if response.get('stopReason') == 'guardrail_intervened': answer = '无法回答 --- 内容被护栏标记。' trace = response.get('trace', {}).get('guardrail', {}) else: answer = response['output']['message']['content'][0]['text']

区分实际引用的来源与所有检索到的来源。在“可解释性”文章中,这种区别至关重要:

# 从模型回答中解析 [Source N] 标记 cited_indices = re.findall(r'\[Source (\d+)\]', answer) cited = [retrieved[n-1] for n in map(int, cited_indices) if n-1 < len(retrieved)] citations = {'cited_sources': cited, 'all_retrieved': retrieved, 'citation_rate': len(cited) / len(retrieved) if retrieved else 0}

记录每次交互以便进行可解释性分析。INSERT 捕获了完整的 RAG 来源链:

INSERT INTO rai_postgresql.chat_interactions ( session_id, customer_id, request_text, response_text, response_timestamp, response_latency_ms, intent, confidence_score, retrieved_chunk_ids, similarity_scores, citations, guardrail_assessment, model_id, guardrail_version ) VALUES (%s, %s, %s, %s, NOW(), %s, %s, %s, %s, %s, %s, %s, %s, %s);

我们将 confidence_score 定义为检索到的前 k 个块的平均余弦相似度。intent 字段用于对查询进行分类(例如账单或 order_status),response_latency_ms 记录端到端推理时间。

步骤 4:记录交互并添加治理

每个聊天机器人交互(用户查询、检索到的块、相似度得分、响应和引用)都会使用步骤 3 中所示的 INSERT 记录到 chat_interactions 表中,从而支持可解释性和透明度。在 chat_feedback 中捕获的客户反馈支持持续改进,从而强化了可控性。对于治理,pgaudit 提供查询审计追踪,而 pg_cron 则驱动自动数据保留。

设置 pgaudit 和 pg_cron,这两者都需要 shared_preload_libraries(请参阅前提条件):

CREATE EXTENSION IF NOT EXISTS pgaudit; CREATE EXTENSION IF NOT EXISTS pg_cron; -- 审计应用角色所做的所有操作。在 RDS/Aurora 中,对象级审计使用 pgaudit.role = 'rds_pgaudit';请参阅 pgaudit 文档了解范围。ALTER ROLE app_user SET pgaudit.log = 'write, ddl'; ALTER ROLE app_user SET pgaudit.log_relation = 'on';

治理审查查询:

-- 查找需要审查的低置信度响应 SELECT interaction_id, request_text, response_text, confidence_score, intent, request_timestamp FROM rai_postgresql.chat_interactions WHERE confidence_score < 0.80 ORDER BY request_timestamp DESC LIMIT 10; -- 按意图分析反馈 SELECT ci.intent, AVG(cf.rating) AS avg_rating, COUNT(*) AS total, COUNT(*) FILTER (WHERE cf.rating <= 2) AS low_ratings FROM rai_postgresql.chat_feedback cf JOIN rai_postgresql.chat_interactions ci ON cf.interaction_id = ci.interaction_id GROUP BY ci.intent ORDER BY avg_rating ASC;

将两个表归档到 Amazon S3,并仅在导出成功后进行清除。将归档和清除作为两个独立的 cron 任务运行是不安全的:如果归档失败,单独调度的清除仍会删除行。将两者包装在一个函数中,使 DELETE 仅在导出返回时执行。同时归档 chat_feedback,因为级联删除否则会删除未保存的反馈。90 天窗口符合典型的支持数据保留策略。请根据自身监管要求进行调整。

-- 单个作业:归档两个表,然后仅在导出成功时清除 CREATE OR REPLACE FUNCTION rai_postgresql.archive_and_purge(cutoff INTERVAL DEFAULT '90 days') RETURNS void LANGUAGE plpgsql AS $$ DECLARE exported bigint; BEGIN -- 归档待清除的交互 SELECT rows_uploaded INTO exported FROM aws_s3.query_export_to_s3( format('SELECT * FROM rai_postgresql.chat_interactions WHERE request_timestamp < NOW() - %L', cutoff), aws_commons.create_s3_uri('your-audit-bucket', 'chat-interactions/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1')); -- 归档级联会删除的反馈 PERFORM aws_s3.query_export_to_s3( format('SELECT cf.* FROM rai_postgresql.chat_feedback cf JOIN rai_postgresql.chat_interactions ci USING (interaction_id) WHERE ci.request_timestamp < NOW() - %L', cutoff), aws_commons.create_s3_uri('your-audit-bucket', 'chat-feedback/'||to_char(NOW(),'YYYY-MM-DD')||'.csv', 'us-east-1')); -- 仅在成功导出后进行清除(反馈通过 ON DELETE CASCADE) IF exported IS NOT NULL THEN DELETE FROM rai_postgresql.chat_interactions WHERE request_timestamp < NOW() - cutoff; END IF; END $$; -- 调度单一有序作业 SELECT cron.schedule('archive_and_purge', '0 0 * * *', $$SELECT rai_postgresql.archive_and_purge()$$);

验证解决方案

端到端运行一个问题,然后读取它产生的行。该单行是设计有效性的证据:它显示了检索到的块、相似度、实际引用的来源以及防护栏结果。

SELECT request_text, model_id, confidence_score, retrieved_chunk_ids, similarity_scores, citations -> 'cited_sources' AS cited, guardrail_assessment -> 'action' AS guardrail_action FROM rai_postgresql.chat_interactions ORDER BY request_timestamp DESC LIMIT 1;

预期:返回一行,其 cited_sources 是 retrieved_chunk_ids 的子集,similarity_scores 不低于 0.7 阈值,且 guardrail_action 为 NONE,表示问题干净。如果 cited_sources 为空,模型未对答案进行依据,响应应谨慎对待。

限制与注意事项

Amazon Bedrock Guardrails 会为每次推理调用增加延迟,并产生每文本单元的费用。上下文依据还有额外计费。请在生产部署前对响应时间和成本进行基准测试。

交互日志会随时间增长占用存储。S3 归档和清除 cron 作业有助于管理,但需监控 Aurora 存储并根据需要调整保留期限。

HNSW 索引提供近似最近邻搜索。后置过滤(例如按类别或租户)在索引扫描后执行,可能返回的行数少于 LIMIT。可提升 hnsw.ef_search 或使用迭代索引扫描(pgvector 0.8.0+)来提升召回率。

上下文依据检查评估模型的响应是否基于提供的上下文,但不保证源文档本身的事实准确性。

Aurora ML 嵌入生成在数据库中同步运行。对于大型批量数据导入,请考虑分批更新或使用异步管道。

本文中除了 Aurora ML(即 aws_bedrock.invoke_model_get_embeddings 调用)之外的一切功能,同样适用于 Amazon Relational Database Service (Amazon RDS) for PostgreSQL。

清理

为避免产生持续费用,如果您为本次演练创建了以下资源,请将其删除:

请先取消定时任务,否则一旦架构被删除,它每晚都会执行失败:SELECT cron.unschedule('archive_and_purge');。

删除架构:DROP SCHEMA rai_postgresql CASCADE;。

删除 Amazon Bedrock 护栏 (Guardrail)。

移除 AWS Lambda 函数和 API Gateway 端点。

删除 Amazon S3 审计存储桶(或配置生命周期策略)。

删除 Aurora PostgreSQL 集群(如果打算复用,可以将其停止)。

移除为 Bedrock 和 Aurora ML 集成创建的 IAM 角色。

删除应用程序角色(角色不会被 DROP SCHEMA 移除):DROP ROLE app_user;。

成本考量:本解决方案使用了 Amazon Aurora PostgreSQL、Amazon Bedrock(模型推理与嵌入)以及 Amazon Bedrock Guardrails。成本因区域、实例大小、请求量和模型选择而异。有关定价详情,请参阅各项服务的定价页面。

结论

Amazon Aurora PostgreSQL 兼容版结合 pgvector、行级安全性、pgaudit、pgcrypto、pg_cron 和 Aurora ML,为负责任的人工智能 (Responsible AI) 提供了数据库层的构建块。如映射表所示,某些维度还取决于数据库外部的 AWS 服务。

在这篇文章中,我们将可解释性 (Explainability) 维度作为详细的设计演练重点。通过在 Aurora 中记录检索到的数据块 ID、相似度得分、引用的来源以及护栏追踪信息,您可以在数据库层获得一个可查询的审计追踪。映射表展示了其余维度如何建立在相同的基础之上,将 Aurora PostgreSQL 功能与 AWS AI 服务结合起来。

这些设计模式的核心要点是:

在查询时记录检索溯源:检索到和引用的块 ID、相似度得分以及护栏追踪信息。

区分实际引用的来源与检索到的所有内容。正是这种区分使得答案具有可解释性。

使用行级安全性强制实施多租户隔离,并在向量搜索运行之前设置租户上下文。

在清除之前归档审计数据,并像保护源数据一样仔细保护日志表。

作为下一步,请探索 Amazon Bedrock Knowledge Bases,这是一种全托管的 RAG 功能,现已在许多 AWS 区域支持 Aurora PostgreSQL 作为向量存储,并提供内置的引用生成功能,这有助于减少新项目中实现可解释性所需的自定义集成代码。

正文为 AI 译文。

参考来源

← 返回每日AI报告