feat(observability): 失败响应与网关信封进链路,手工埋点尊重 suppressed

失败此前在 trace 里近乎不可见:异常处理器把异常吃掉换成信封响应,自动
instrumentation 只看到一个 HTTP 状态码,而 AppError 默认 400、信封里
success=false,跟正常返回分不出来。

- api.py:四个异常处理器(对外失败的唯一出口)各记一次 span;兜底处理器额外
  record_error——对外只回一句无信息量的错误文案,异常类型与栈只在本地日志里
- telemetry.py:新增 record_envelope / record_parse_failure /
  span_unless_suppressed;record_error 补 error.message / retryable /
  status_code;snapshot 支持 extra 带上「这份 HTML 是哪来的」
- worker/client.py:_request 自建 span,活到解信封之后。httpx 那个 CLIENT span
  在 request() 返回时就结束,此时信封还没解——success=false code=6002(租约
  无效)在它看来是完成的 200 请求
- span_unless_suppressed:suppress_instrumentation 只被 instrumentation 库尊重,
  手工 span 不看它,lease 空转长轮询会从这个口子把孤立 trace 放回来
- 两个 scraping client 的解析失败分支收拢到 record_parse_failure;shop_items
  显式标 stage=delegate 且不落快照(它自己不抓页面,按 html 推断只会得出
  「fetch 失败」的错误结论)

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This commit is contained in:
2026-08-28 16:07:00 +08:00
co-authored by Claude Opus 5
parent 4cc30bc058
commit 8381896eeb
6 changed files with 451 additions and 72 deletions
+144 -8
View File
@@ -34,7 +34,10 @@ from opentelemetry import trace
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from opentelemetry.instrumentation.fastapi import FastAPIInstrumentor
from opentelemetry.instrumentation.httpx import HTTPXClientInstrumentor
from opentelemetry.instrumentation.utils import suppress_instrumentation
from opentelemetry.instrumentation.utils import (
is_instrumentation_enabled,
suppress_instrumentation,
)
from opentelemetry.sdk.resources import SERVICE_NAME, Resource
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
@@ -52,6 +55,10 @@ R = TypeVar("R")
logger = logging.getLogger(__name__)
# 错误信息类属性的截断长度。站点错误页抽出来的 msg 可能很长(_extract_error_message
# 拼两条提示),而属性值过长会把 OTLP 请求撑大;排查看的是前半句,够了。
_MSG_MAX_CHARS = 512
# 全局 provider 引用,用于 instrument_app / shutdown 时判断当前是否已初始化。
# 显式持有比依赖 trace.get_tracer_provider() 的类型判断更稳——后者在测试场景
# 下可能被其它用例改动全局状态。
@@ -147,11 +154,21 @@ def shutdown_telemetry() -> None:
_provider = None
def snapshot(span: Span, name: str, html: str | None, max_bytes: int) -> None:
def snapshot(
span: Span,
name: str,
html: str | None,
max_bytes: int,
*,
extra: Mapping[str, AttributeValue | None] | None = None,
) -> None:
"""把 HTML 作为 span event 上报,超 max_bytes 截断并标注。
用于解析失败时复现页面:span 自身只放结构化指标(items 数、source 等),
完整 HTML 体量大、含商品/价格内容,仅在失败分支通过 event 携带。
`extra` 用来带上「这份 HTML 是哪来的」——落地 URL、页面标题、证据文件路径
之类。光有一坨 HTML 还得自己回头对是哪一步的产物,附在同一条 event 上省事。
"""
if html is None or not html:
return
@@ -164,6 +181,9 @@ def snapshot(span: Span, name: str, html: str | None, max_bytes: int) -> None:
}
if truncated:
attributes["snapshot.truncated"] = True
for key, value in (extra or {}).items():
if value is not None:
attributes[key] = value
span.add_event(name, attributes=attributes)
@@ -174,25 +194,141 @@ def suppressed() -> Iterator[None]:
给「空转的长轮询」用:worker 每 30 秒问一次网关有没有活干,绝大多数时候
返回空。这些请求各自成为一条孤立 trace,量大且没有信息量——把观测后台刷满
的正是它们。领到任务后的每一次网关调用都在任务根 span 底下,不受影响。
**只挡自动 instrumentation**:OTel 那个上下文标记是给 instrumentation 库看的,
手工 `start_as_current_span` 不看它,照样会建 span。所以在这个上下文里手工埋点
要走 `span_unless_suppressed`,否则空转长轮询会从另一个口子把孤立 trace 放回来。
"""
with suppress_instrumentation():
yield
@contextmanager
def span_unless_suppressed(
tracer: trace.Tracer, name: str, *, kind: SpanKind = SpanKind.INTERNAL
) -> Iterator[Span]:
"""同 `start_as_current_span`,但在 `suppressed()` 里退化成 noop span。
手工埋点与 `suppressed()` 的配套件。`suppress_instrumentation` 只被
instrumentation 库尊重,手工建的 span 不受它影响——worker 的 `lease` /
`lease_query` 正是在 `suppressed()` 里调 `GatewayClient._request` 的,那里若
无条件建 span,空转的长轮询就会每 30 秒产出一条孤立 trace,等于绕开了
`suppressed()` 本来要解决的问题。
退化时给的是 `INVALID_SPAN`(NonRecordingSpan):`set_attributes` /
`record_error` / `record_envelope` 作用在它上面全是 noop,调用方不必分支。
"""
if not is_instrumentation_enabled():
yield trace.INVALID_SPAN
return
with tracer.start_as_current_span(name, kind=kind) as span:
yield span
def record_error(span: Span, exc: BaseException) -> None:
"""把异常记到 span 上并置 ERROR 状态。
单独抽出来是因为 AppError 带 `err_code`(对外错误码),排查时按码筛比按
异常类名筛更贴近上游看到的东西,值得单独落一个属性。
单独抽出来是因为 AppError 带的那几个字段(对外错误码 `err_code`、是否可重试
`retryable`、HTTP 状态码)正是排查时真正要看的东西:按码筛比按异常类名筛更
贴近上游看到的结果,而 `retryable` 直接决定这次失败该不该重来。异常消息也单独
落一个属性——`record_exception` 记的 event 在多数观测后台里要展开才看得到,
列表页按 `error.message` 筛不出来。
"""
span.record_exception(exc)
span.set_attribute("error.type", type(exc).__name__)
err_code = getattr(exc, "err_code", None)
if isinstance(err_code, int):
span.set_attribute("error.code", err_code)
retryable = getattr(exc, "retryable", None)
set_attributes(
span,
{
"error.type": type(exc).__name__,
"error.message": str(exc)[:_MSG_MAX_CHARS],
"error.code": err_code if isinstance(err_code := getattr(exc, "err_code", None), int) else None,
"error.retryable": retryable if isinstance(retryable, bool) else None,
"error.status_code": sc if isinstance(sc := getattr(exc, "status_code", None), int) else None,
},
)
span.set_status(Status(StatusCode.ERROR, f"{type(exc).__name__}: {exc}"))
def record_envelope(
span: Span,
*,
success: bool,
err_code: int | None = None,
msg: str | None = None,
status_code: int | None = None,
) -> None:
"""把 `ApiResponse` 信封的结果记到 span 上。
自动 instrumentation 只看 HTTP 层,而本项目的失败**在信封里**:一次
`success=false, code=6002` 的回报,HTTP 层跟成功的调用长得一模一样(很多还
是 200)。于是 trace 里只剩「调用发生过」,「这次到底成没成、错在哪个码」
全在 body 里,不显式记就永远看不到——这正是「只知道调用了、不知道异常怎么
来的」的直接原因。
出入两侧都用它:服务端异常处理器往 server span 上记(见 `shared.api`),
worker 解信封时往 client span 上记(见 `trading.worker.client`),同一套
`api.*` 属性名,一条 trace 里两侧的结论可以直接对上。
"""
set_attributes(
span,
{
"api.success": success,
"api.code": err_code,
"api.status_code": status_code,
"api.msg": msg[:_MSG_MAX_CHARS] if msg else None,
},
)
if not success:
span.set_status(Status(StatusCode.ERROR, msg or f"api.code={err_code}"))
def add_event(
span: Span, name: str, attributes: Mapping[str, AttributeValue | None]
) -> None:
"""记一条 span event,跳过 None 值属性。
「过程」不能用属性表达:同名属性后写覆盖先写,三次抓取尝试写完只剩最后一次
的状态码,中间那两次为什么失败、升级到哪一级全被盖掉了。每次尝试各记一条
event,链路里才看得出升级路径。
"""
span.add_event(
name,
attributes={key: value for key, value in attributes.items() if value is not None},
)
def record_parse_failure(
span: Span,
exc: BaseException,
*,
html: str | None = None,
max_bytes: int = 0,
url: str | None = None,
stage: str | None = None,
) -> None:
"""页面类操作失败的统一记法:错误详情 + 失败阶段 + 失败页面快照。
抓取侧与 ラクマ 侧一共十个接口的失败分支原本各写一遍同样三步,且都漏了最关键
的一件事——**失败在哪一步**。`html` 是否已拿到恰好就是判据:还是空说明页面根本
没取回来(通道 / 反爬 / 上游 5xx),非空说明取回了但解析不出(多半站点改版)。
两者的排查方向完全相反,所以作为属性直接落下来,不让人对着一坨 HTML 猜。
`stage` 可显式覆盖:像 `shop_items` 那种「转调另外两个接口」的编排方法,失败
既不在自己的 fetch 也不在自己的 parse,据 html 推断只会给出错的结论。
"""
record_error(span, exc)
set_attributes(
span,
{
"parse.stage": stage or ("fetch" if not html else "parse"),
# 保留原有属性名(观测后台的既有筛选条件),但值改成真实异常类名——
# 原先无论什么失败都写死 "parse_error",把反爬阻断也说成解析失败。
"parse.fail_reason": type(exc).__name__,
},
)
snapshot(span, "parse.failed_html", html, max_bytes, extra={"parse.url": url})
def traced(
name: str,
*,