把需要账号登录态的链路从抓取服务里拆出成独立进程。分界线不是「要不要登录」, 而是抓取无状态、幂等、可多开实例,而交易的写操作不可逆、登录态全局唯一、 订单监控是常驻轮询——同进程时抓取一扩容就会复制出 N 份登录态与 N 个轮询, 同一账号会被并发操作。 - app/shared:配置、错误码、日志、ApiResponse 信封 + Bearer 鉴权 + 异常处理器、 导航请求头构造器 - app/scraping:站点常量、会话、解析器与 10 个抓取接口,:31107,可多开 - app/trading:登录态查询/重载与健康检查,:31108,只能单实例 - 依赖方向锁为 scraping→shared、trading→shared,两侧互不 import; tests/test_architecture.py 用 AST 检查 import 并校验两个 app 的路径不串 - 登录态 UA 在 trading 独立持有:与抓取 UA 值相同但变更理由不同,抓取 UA 为绕 反爬可随时调整,登录 UA 一改可能触发设备校验使已落盘 cookie 失效 - scripts/login.py 与 AuthSession 共用 auth_site.PROFILES 与 is_logged_in,判据只写一遍 - 同一镜像两个启动命令,交易容器覆盖 command 并设 RAKUTEN_HEALTH_PORT 同时带上此前未提交的 ラクマ 分类接口与登录态基础设施。 验证:239 个离线用例全绿;两个入口真实启动,/health 与鉴权正常。 未验证:真实探测登录态(当前开发机无外网,对站点的连接全部超时)。 Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
45 lines
1.4 KiB
Python
45 lines
1.4 KiB
Python
"""站点 JSON 取值的类型收敛工具
|
|
|
|
`__INITIAL_STATE__` 里同一字段在不同商品/店铺上可能是 null、数字或字符串
|
|
(例如运费既可能是 0 也可能是 null,评分既可能是 4.5 也可能是 "4.5"),
|
|
统一在这里做容错转换,避免解析器里到处写 isinstance 判断。
|
|
"""
|
|
from __future__ import annotations
|
|
|
|
from typing import Any
|
|
|
|
|
|
def as_dict(value: Any) -> dict[str, Any]:
|
|
"""非 dict(含 None)一律收敛为空 dict"""
|
|
return value if isinstance(value, dict) else {}
|
|
|
|
|
|
def as_list(value: Any) -> list[Any]:
|
|
"""非 list(含 None)一律收敛为空 list"""
|
|
return value if isinstance(value, list) else []
|
|
|
|
|
|
def as_str(value: Any) -> str:
|
|
"""非字符串一律收敛为空串"""
|
|
return value if isinstance(value, str) else ""
|
|
|
|
|
|
def as_int(value: Any, default: int = 0) -> int:
|
|
"""尽力转成 int;布尔值不视为数字,避免 True 被当成 1"""
|
|
if isinstance(value, bool) or not isinstance(value, (int, float, str)):
|
|
return default
|
|
try:
|
|
return int(float(value))
|
|
except (TypeError, ValueError):
|
|
return default
|
|
|
|
|
|
def as_float(value: Any, default: float = 0.0) -> float:
|
|
"""尽力转成 float;布尔值不视为数字"""
|
|
if isinstance(value, bool) or not isinstance(value, (int, float, str)):
|
|
return default
|
|
try:
|
|
return float(value)
|
|
except (TypeError, ValueError):
|
|
return default
|