Skip to content

fix(assistant): semantic_search през native Vectorize namespace вместо metadata филтър - #319

Open
nedda76 wants to merge 21 commits into
midt-bg:mainfrom
nedda76:fix/assistant-entity-native-namespace
Open

fix(assistant): semantic_search през native Vectorize namespace вместо metadata филтър#319
nedda76 wants to merge 21 commits into
midt-bg:mainfrom
nedda76:fix/assistant-entity-native-namespace

Conversation

@nedda76

@nedda76 nedda76 commented Aug 18, 2026

Copy link
Copy Markdown
Collaborator

Closes #317

Какво

semanticSearch минава от filter: { ns: 'entity' } към native Vectorize namespace (ENTITY_NS = 'entity-v1') — последната употреба на metadata филтър в RAG модула изчезва.

Защо

Vectorize зачита metadata филтри само върху свойства с провизиран metadata index (wrangler vectorize create-metadata-index), а репото не провизира нито един. Върху реален индекс филтрираната заявка греши или под-филтрира — тихо, защото извикващите поглъщат грешката. Native namespace-ът не изисква индекс и се прилага преди всякакви филтри. Схема-страната мина на същия модел в #223; това изравнява entity-страната.

Entity корпус никога не е индексиран (indexer-ът е „Какво остава" от Фаза 2), така че няма legacy кохорт за миграция.

От ревюто (второ комитче)

  • Header-ът на модула вече не твърди, че FTS инструментът search_entities съществува (само спецификация е).
  • Правилото „WHEN TO BUMP" изрично НЕ се пренася върху entity корпуса — той е производен от данните и бъдещият indexer се нуждае от собствен reconciliation/delete път.
  • metadata.ns е маркиран като форензично поле — НЕ филтруемо.
  • semanticSearch деградира match без score до 0 вместо TypeError в tools.ts (+ тест).
  • Namespace тестовете коват и броя на заявките (toHaveBeenCalledTimes(1)), за да не може filter-базиран retry да мине зелен.

Стак

Стъпва върху #223 (fix/assistant-integrity-grounding) — за ревю са последните 2 комита (612ed88, ceb1942); останалото е диффът на #223, който ще изчезне след мърджа му. Ред на мърдж: #223 → този PR.

Проверено

tsc -b чист, 182/182 теста на assistant пакета, Prettier чист.

@ydimitrof ydimitrof left a comment

Copy link
Copy Markdown
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Ревю на PR: fix(assistant): semantic_search през native Vectorize namespace вместо metadata филтър

Обща оценка: 9.5/10 — APPROVE (с една незадължителна, насочена към бъдещето бележка).

Фаза 0 — Сигурност (задължителна, блокираща): ЧИСТО ✅

  • Няма твърдо кодирани тайни. BGGPT_API_KEY се подава само през wrangler secret put (интерактивно), README изрично отбелязва „никога не се комитва".
  • Няма нови/съмнителни URL-и. @cf/baai/bge-m3 е Workers AI идентификатор на модел, не мрежов адрес.
  • Няма зловредни шаблони (backdoors, инжекции, обфускация).
  • Зависимости: единствената промяна е osv-scanner.toml — игнориране на GHSA-f88m-g3jw-g9cj (libvips CVE в sharp<0.35.0). Обосновката е коректна: транзитивна, само-dev зависимост през miniflare, извън разгърнатия Worker, без достъпна поправка в диапазона (^0.34.5), с ignoreUntil дата. ✅
  • Подобрение на сигурността: в report-schema.ts резолвнатите колони вече се строят ЯВНО поле по поле вместо { ...c } — това спира пренасянето на непознати, модел-подадени свойства към рендера (validateEmitShape не отхвърля непознати ключове). Заедно с whitelist-а isAlign (left|right) това затваря вектор за атрибут-инжекция. Отлично.

Тестове (3.0/3.0) ✅

Изключително силно тестово покритие, писано да разкрива дефекти, не да минава тривиално:

  • rag.test.ts пинва литерала schema-v2/entity-v1 (не SCHEMA_NS), така че bump-ът е съзнателен акт; проверява toHaveBeenCalledTimes(1) + expect.not.objectContaining({ filter }) — exhaustively изключва скрит filter-based fallback; покрива scoreless match и relevance floor.
  • system-prompt.test.ts тества през реалния write→read seam (indexSchemaCorpus → retrieveSchemaContext → buildSystemPrompt) и гарантира, че всеки trap се рендира точно веднъж (регресията с двойно рендиране).
  • sql-guard.test.ts, report-schema.test.ts, emit-report-schema.test.ts покриват новите пътища (агрегати, магнитуден суфикс, cap-ове, align).

Код-качество (2.0/2.0) ✅

  • renderTraps() е споделен между describeSchema() и hardTraps() — премахва дублиране и drift на trap-текста между двата пътя (изпълнява NO CODE DUPLICATION).
  • Промяната от /милиард|милион/ към суфиксите /илион|илиард/ е коректна (мил-ион ⊃ илион, мил-иард ⊃ илиард), затваря реда нагоре (квинтилион/секстилион) вместо ръчен списък; свръх-флагването е в безопасната посока за gate.
  • sql-guard разширението (group_concat/string_agg/json_group_array/json_group_object) коректно адресира същия OOM-amplification клас като printf. Заслужава похвала честната бележка, че denylist-ът е catch-up игра и allowlist е трайната поправка.

Документация (2.0/2.0) ✅

README е обстоен: правилото „WHEN TO BUMP", версионираният native namespace, rollback-семантиката (нов кохорт до стария), безопасният fallback (0 чънка → пълен статичен речник) и предупреждението, че entity корпусът е data-derived и НЕ следва append-only bump правилото. Ясен операционен runbook преди deploy.

Производителност (2.0/2.0) ✅

  • MIN_SCHEMA_SCORE floor предотвратява „частично grounding, по-слабо от no-RAG" — реален коректностен и качествен gain.
  • Native namespace изключва stale кохорти на източника (никакви пропилени topK слотове), без нужда от provisioned metadata index.
  • sql-guard спира single-row OOM на изолата.

Security (agent-level, 1.0/1.0) ✅

Няма нови уязвимости; входната валидация и error handling са затегнати.

Дребни / незадължителни бележки (не блокират)

  1. Асиметрия във floor-а (вж. inline): retrieveSchemaContext има MIN_SCHEMA_SCORE, но semanticSearch няма релевантен праг — само деградира липсващ score до 0. Днес е безвредно (entity namespace е празен по дизайн), но когато entity indexer-ът от Фаза 2 напълни корпуса, нискорелевантни попадения ще стигат до модела като „hits". Препоръка: симетричен праг при активиране на индексера.
  2. Почистване на стар кохорт е ръчно: wrangler vectorize delete-vectors иска изричен списък id-та, възстановими от git историята на buildSchemaChunks — крехко, но документирано и небезопасно само при преждевременно триене (rollback остава без RAG). Приемливо за v1.
  3. Структурни типове vs реални bindings: коментарът честно отбелязва, че as unknown as кастът в route-а скрива drift от tsc спрямо worker-configuration.d.ts — заслужава внимание при бъдещи промени по VectorIndex.

CLAUDE.md съответствие: без частични имплементации, без TODO-симплификации, без дублиране, без мъртъв код, смислени тестове, консистентно наименуване, разделени концерни. Промяната е атомарна и фокусирана върху единствен концерн (native namespace миграция + свързаните hardening follow-up-и от предходни ревюта).

Препоръка: APPROVE — може да се мърдж-не безопасно; бележка №1 да се адресира заедно с entity indexer-а във Фаза 2.

Comment thread apps/web/app/lib/assistant/rag.ts
@nedda76
nedda76 force-pushed the fix/assistant-entity-native-namespace branch from ceb1942 to b40f475 Compare August 19, 2026 17:10

@ydimitrof ydimitrof left a comment

Copy link
Copy Markdown
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Ревю на PR: fix(assistant): semantic_search през native Vectorize namespace

Фаза 0 — Сканиране за критична сигурност: ЧИСТО ✅

  • Твърдо кодирани тайни: няма. BGGPT_API_KEY навсякъде се третира като wrangler secret и изрично „никога не се комитва".
  • URL промени: няма нови URL-и; @cf/baai/bge-m3 е име на Workers AI модел, не мрежов адрес.
  • Зловредни шаблони: няма backdoor/eval/обфускация.
  • Промени в зависимости: няма нови пакети. osv-scanner.toml добавя потискане на CVE (sharp <0.35.0, GHSA-f88m-g3jw-g9cj) — обосновката е коректна (транзитивна dev-only зависимост през miniflare, не влиза в деплойнатия Worker; няма upstream fix в диапазона) и има ignoreUntil, който ще я извади наяве. Прието.

Резултат: не се блокира. Преминаваме към пълно ревю.

Обобщение по измерения

Архитектура / коректност (силно): Смяната от metadata filter: { ns } към native Vectorize namespace е правилният подход — native namespace-ите работят без provisioned metadata индекс (issue #317) и изключват стари кохорти на ниво заявка, вместо да хабят topK слотове. Версионирането в namespace-а И в id-тата (schema-v2:) прави ре-индекса cohort-safe спрямо Worker rollback. Правилото „WHEN TO BUMP" е ясно документирано и разграничението, че за entity-корпуса (data-derived) то НЕ важи едно към едно, е точно.

Сигурност (agent-level):

  • sql-guard.ts — добавянето на group_concat/string_agg/json_group_array/json_group_object към денилиста затваря реален клас на memory-amplification (цял scan → една клетка преди capRows). Правилно е разпознат string_agg като SQLite ≥3.44 синоним. Забележката, че позитивен allowlist е трайното решение, е коректна.
  • emit-report-schema.ts — таваните за масиви (MAX_BLOCKS/ITEMS/COLUMNS) + short-circuit преди per-item scan-а е добра защита срещу необвързан вход; isAlign whitelist предотвратява out-of-enum стойност да стигне до renderer, който я интерполира в атрибут/стил.
  • report-schema.ts — експлицитното изграждане на колоните (вместо spread) блокира преминаването на непознати model-supplied ключове; суфиксният шаблон -илион/-илиард затваря магнитудите нагоре. Приемането на near-collision (напр. „Илион") е съзнателен fail-toward-flagging избор — приемливо.

Тестове: Много силно покритие — floor-филтъра, scoreless match, exhaustive corpus-length проверка (никой trap chunk не се преиндексира), и композиционен тест през реалния write→read seam (indexSchemaCorpus → retrieveSchemaContext → buildSystemPrompt) с проверка „всеки trap се рендира точно веднъж". Тестовете са смислени, не тривиални.

Документация: README-секцията за ре-индексиране и почистване на стари кохорти е изчерпателна и обвързва операционните последствия (rollback прозорец) с кода.

Забележки (незадължителни)

  1. Натрупване на orphan вектори: старите schema:* вектори (default namespace) остават в индекса завинаги след bump. Безвредни за retrieval (namespace ги изключва), но растат разхода/размера. README го признава като „не е задължително" почистване — ОК, но си струва проследяване в беклога.
  2. MIN_SCHEMA_SCORE/MIN_ENTITY_SCORE = 0.35 са консервативни и добре обосновани; тъй като entity-корпусът е още непопълнен, стойността е неизбежно неоткалибрирана до първите реални данни — предвидете преразглеждане при пускане на entity indexer-а.

Вердикт

Няма блокиращи или критични находки. Кодът е чист, добре тестван и добре документиран. Слагам COMMENT вместо APPROVE само защото quality-gate изисква реално изпълнение на тестовия пакет (pnpm --filter web test) и typecheck, което не мога да изпълня в тази среда — препоръчвам APPROVE след потвърждение, че CI е зелен.

Comment thread apps/web/app/lib/assistant/rag.ts
Comment thread apps/web/app/lib/assistant/report-schema.ts

@ydimitrof ydimitrof left a comment

Copy link
Copy Markdown
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Ревю на PR: fix(assistant): semantic_search през native Vectorize namespace вместо metadata филтър

Обобщение

PR-ът мигрира scoping-а на RAG извличането от metadata filter: { ns } към native Vectorize namespaces (schema-v2, entity-v1), премахва зависимостта от несъществуващ metadata index (#317), въвежда версиониране на корпуса, relevance floor за двата пътя (MIN_SCHEMA_SCORE / MIN_ENTITY_SCORE), изважда DATA_TRAPS от векторния корпус и ги инжектира безусловно чрез hardTraps(). Придружен е от подсилване на sql-guard, emit-report-schema капове, разширяване на prose-number gate-а и osv-scanner ignore за dev-only sharp CVE.

Обща оценка: ~9.4/10 — препоръка APPROVE. Промяната е атомарна, добре мотивирана и изключително добре покрита с тестове. Не открих блокиращи проблеми.

Phase 0 — Security-Critical Scan: CLEAN

  • Hardcoded secrets: няма. BGGPT_API_KEY се борави само през wrangler secret put (документирано, интерактивно, некомитвано).
  • URL промени: няма нови външни URL-и; @cf/baai/bge-m3 е Workers AI capability, не мрежов ендпойнт.
  • Malicious patterns: няма backdoor/обфускация/eval.
  • Dependencies: няма нови пакети; osv ignore за GHSA-f88m-g3jw-g9cj е за транзитивен dev-only sharp през miniflare, извън деплойнатия Worker, с ignoreUntil дата и ясен REMOVE WHEN — обосновката е коректна.

Security (agent-level): силна

  • sql-guard разширява денилиста с string-building агрегати (group_concat/string_agg/json_group_array/json_group_object) — реален memory-amplification клас, спрян преди capRows. Затварянето на quoted-identifier байпаса ("group_concat"(x), [..], `..`) е точна находка. Регексът fail-ва към флагване, което е правилната посока.
  • emit-report-schema: isAlign whitelist + експлицитното изграждане на колони в report-schema.ts (без { ...c }) премахва канал за пропускане на непроверени model-полета към рендера — добро defense-in-depth срещу attribute/style injection.
  • Prose-number gate: покриването на -илион/-илиард суфиксите (вместо явен списък) затваря defamation-scale вектора нагоре; над-флагването на „Илион/Троя" е приемливо за register-а.

Tests: отлични

  • Всеки нов клон има целеви тест: namespace литерали пиннати (умишлено не през константата), relevance floor (над/под/scoreless), cap short-circuit, quoted-identifier байпас, композиционен тест през реалния write→read seam с проверка „всеки trap точно веднъж". Тестовете са смислени, не тривиални.
  • Забележка: не изпълних тестовия пакет в тази среда (typecheck/pnpm --filter web test не са пуснати) — валидацията стъпва на статичен прочит на diff-а. Preмерджа потвърдете зеления пакет.

Code Quality / CLAUDE.md: съответства

  • renderTraps() премахва дублиране между describeSchema() и hardTraps() — единен източник, не могат да дрейфнат.
  • Няма partial impl / TODO / dead code; коментарите документират инвариантите (WHEN TO BUMP, forensic-only metadata) добре.

Незначителни наблюдения (non-blocking) — виж inline коментарите

  1. Регекс-денилистът е по своята същност догонваща игра; positive allowlist остава трайното решение (вече е трекнато).
  2. Миграционен detail за orphan вектори в default namespace от евентуално предишно индексиране — уверете се, че README cleanup пътят го покрива.

Performance: без регресии

Relevance floor намалява шума в prompt-а; native namespace изключва stale кохорти на ниво индекс (не хаби topK слотове). Няма нови N+1 или неограничени скани — каповете (MAX_BLOCKS/ITEMS/COLUMNS) добавят горна граница там, където преди нямаше.

Documentation: пълна

README покрива ре-индексиране, версиониране, rollback прозорец и разликата entity-vs-schema BUMP правилото. Точно и актуално.

Comment thread apps/web/app/lib/assistant/sql-guard.ts
Comment thread apps/web/app/lib/assistant/rag.ts
Comment thread apps/web/app/lib/assistant/system-prompt.ts
@nedda76
nedda76 force-pushed the fix/assistant-entity-native-namespace branch from 5a3dc4c to 5d05e3d Compare August 21, 2026 10:54
nedda76 added a commit to nedda76/sigma that referenced this pull request Aug 24, 2026
…ема пътя

Без флор, щом entity корпусът се напълни, top-K връща K-те най-близки
съседа ДОРИ когато всички са off-topic, и те стигат до модела като
реални hits. MIN_ENTITY_SCORE (симетричен на MIN_SCHEMA_SCORE) реже под
прага; match без score се чете като под флора и отпада — същото
защитно правило като схема пътя. Тестовете деривират скоровете от
флора ± ε (бележка от ревюто на midt-bg#319).
@nedda76
nedda76 force-pushed the fix/assistant-entity-native-namespace branch from 5d05e3d to d312569 Compare August 24, 2026 12:48
nedda76 added a commit to nedda76/sigma that referenced this pull request Aug 25, 2026
…ема пътя

Без флор, щом entity корпусът се напълни, top-K връща K-те най-близки
съседа ДОРИ когато всички са off-topic, и те стигат до модела като
реални hits. MIN_ENTITY_SCORE (симетричен на MIN_SCHEMA_SCORE) реже под
прага; match без score се чете като под флора и отпада — същото
защитно правило като схема пътя. Тестовете деривират скоровете от
флора ± ε (бележка от ревюто на midt-bg#319).
@nedda76
nedda76 force-pushed the fix/assistant-entity-native-namespace branch from d312569 to 3c85cae Compare August 25, 2026 18:29
nedda76 added 17 commits August 26, 2026 20:57
The curated dictionary the model treats as hard fact had drifted from
packages/db/migrations/0000_init.sql:
- amendments: no contract_id column — it links via unp/contract_number
- parties: no role column — real cols are party_key, eik, ocid, party_id, name…
- value_flag enum was missing value_low
- amount_eur IS NULL was described as meaning value_suspect; it actually has
  several causes (FX-rateless foreign / value_suspect w/o estimate / no
  signing+current), and the unconfirmed count is value_flag='value_suspect'
  (home_totals.suspect), not NULL-amount rows
- data_freshness is a table, not a view

Drift here misleads a weak model into wrong joins or a wrong integrity KPI.
…e retrieval

Two grounding gaps that could leave a RAG turn LESS constrained than the
no-RAG fallback:
- buildSystemPrompt used the retrieved chunks INSTEAD of the dictionary, so a
  retrieval that missed the money-sum trap dropped the SUM(amount_eur) rule
  entirely. Inject the short imperative DATA_TRAPS unconditionally; RAG now only
  selects the extra tables/example-queries for the question.
- retrieveSchemaContext had no relevance floor — top-K returned its K
  least-distant chunks even when all were off-topic. Add MIN_SCHEMA_SCORE; below
  it we return fewer/zero chunks, and zero falls back to the full dictionary
  (the safe outcome).
group_concat / json_group_array / json_group_object collapse an entire
full-table scan into one huge cell that materialises in Worker memory before
capRows can measure it (and capRows keeps the first row whole) — the same
memory-amplification class already blocked for printf/format/randomblob, one
level up. Add them to the scalar blocklist.
- Prose number-gate missed трилион/билион/квадрилион: '3 трилиона лева' slipped
  the whole gate (the digit can't reach 'лева' across the Cyrillic word), an
  unbound order-up figure on a public report — the '12 млрд.' vector one
  magnitude higher. Add them to the spelled-magnitude stem.
- Validate the optional column align against a left|right whitelist, and build
  resolved table columns explicitly instead of spreading the model object, so no
  unknown/unvalidated property reaches the renderer.
- Cap model-emitted array lengths (blocks, items, columns) in validateEmitShape.
…h prompt paths

renderTraps() now owns the numbered-list rendering that describeSchema (full
dictionary) and the RAG hard-traps block duplicated, so the two paths cannot
drift, and the full-dictionary heading is harmonised to match the RAG block
("Задължителни правила за данните"). No behaviour change — string assembly only.
retrieveSchemaContext relied on `m.score` always being numeric. If an index
backend ever returns a match without a `score`, the comparison was falsy and the
chunk was dropped — the correct, safe outcome, but only incidentally. Make it
explicit with `(m.score ?? 0) >= minScore` and a comment so a future refactor
can't strip the guard, and cover it with a test. Addresses the review note on
rag.ts robustness (ydimitrof).
…vers квинтилион+)

The prose-number gate listed magnitudes explicitly and stopped at квадрилион, so
"3 квинтилиона лева" slipped. Match the shared suffixes instead — милион⊃"илион",
милиард⊃"илиард" — which covers the whole family (милион…секстилион…, милиард…)
and closes the row upward for good rather than chasing an endless list. Addresses
the review note on report-schema.ts (ydimitrof).
… the SQL guard

string_agg(X, sep) is the official SQLite 3.44 synonym of group_concat and reaches
the same code path on D1's modern SQLite, so it bypassed the scalar/aggregate
denylist and achieved the same memory amplification (whole scan into one cell
before capRows) the guard just closed for group_concat. Add it to the regex and
the adversarial test. Addresses the review note on sql-guard.ts (ydimitrof).
An over-cap blocks/items/columns array is exactly the unbounded structure
the ceilings guard against, yet validateEmitShape recorded the length error
and then walked the whole array anyway — doing the very scan the cap exists
to refuse. Return before the per-block scan on oversized blocks, and skip the
per-element scan on oversized items/columns. Behaviour is unchanged for valid
reports (ok:false either way); this only stops the wasted walk. Test asserts a
single cap error with no per-element errors, proving the array is not scanned.

Addresses lyubomir-bozhinov's review note on PR midt-bg#223.
The Dependency-audit step (osv-scanner) fails on ANY known vuln and, per its
own comment, expects intentional exceptions in osv-scanner.toml — which did not
exist yet. sharp@0.34.5 (High, GHSA-f88m-g3jw-g9cj: inherited libvips decoder
CVEs) has no in-range upstream fix: miniflare pins sharp ^0.34.5 and its latest
release still ships 0.34.5, so 0.35.0 is unreachable without a forced override.
sharp is a transitive dev-only dep (miniflare dev server / test runtime), absent
from the deployed Worker, and the vuln needs decoding an untrusted image the
toolchain never handles. Record a dated (ignoreUntil 2026-10-22) exception so
the audit gate goes green and the entry auto-resurfaces for revisit.

Verified locally with osv-scanner 2.4.0: fails without the config, passes with.
…d RAG retrieval

DATA_TRAPS are injected into the system prompt unconditionally (hardTraps),
so indexing them in the schema corpus let retrieval hand the same rule back
as "context" and render it twice. Traps are no longer indexed, and
retrieveSchemaContext drops kind:'trap' matches a previously deployed index
may still hold. Retrieval's job stays selecting relevant tables/queries.
(review note, ydimitrof)
The sharp entry used a TOML local-date (2026-10-22) while the react-router
entry above uses full RFC3339; align on the latter so parser versions cannot
read the file inconsistently. (review note, ydimitrof)
…ace instead of a runtime trap filter

Self-review of the previous commit found the client-side kind:'trap' filter
ran AFTER Vectorize's server-side topK cut, so legacy trap vectors (12 of ~37
in a pre-change index, and the most money-question-similar text in the corpus)
could eat up to all six retrieval slots — leaving the turn with fewer
tables/queries than the no-RAG fallback, silently and permanently, since
upsert never deletes the stale ids.

Replaced with a versioned NATIVE namespace (SCHEMA_NS = 'schema-v2') on both
the upserted vectors and the query: native namespaces need no metadata index
and exclude every stale cohort at the source, so no topK slot is ever spent on
a discarded match and the filter is gone. The version is in the vector ids too,
so re-indexing writes a new cohort and a Worker rollback keeps working against
the old one. An un-reindexed environment gets zero matches → the documented
full-dictionary fallback.

Also from the self-review: the stale module header still said trap-rules are
embedded; system-prompt tests fed trap strings retrieval can no longer produce;
and no test entered through the composed seam — added a retrieveSchemaContext →
buildSystemPrompt test seeded with the real corpus asserting every DATA_TRAP
renders exactly once (negative-controlled: re-adding traps under a disguised
id/kind fails it and the new corpus-length assertion). README provisioning now
documents the re-index-on-bump requirement.
Gap-sweep on the namespace fix found the composed exactly-once test was
weaker than advertised: it hand-mirrored the write mapping instead of running
indexSchemaCorpus, sliced only the first topK chunks (so a trap appended at
the corpus tail escaped it), and hard-coded a 0.9 score silently coupled to
MIN_SCHEMA_SCORE. It now routes through the real write path into a recording
fake, retrieves the WHOLE corpus, and derives its score from the floor — so
the write→read metadata contract (text key, ids, namespace) is under test and
a trap re-added at any position under any id/kind fails it
(negative-controlled again with a tail-appended, table-kind trap).

Also: remaining fixtures moved off pre-v2 unversioned ids; the semanticSearch
test title no longer claims a namespace it does not use (it pins the entity
METADATA filter); the module header no longer claims the bindings satisfy the
structural types (the route casts — drift is not tsc-checked); the new-cohort
rollback guarantee is now correctly stated as bump-only, with an explicit
WHEN TO BUMP rule (in-place upserts, positional query ids, orphan risk); the
README no longer suggests purging a cohort inside its rollback window and
notes delete-vectors needs an explicit id list; dropped the stale '150 теста'
verification claim.
… величините

Единствените near-collisions на суфиксния шаблон са думи на -лион
(напр. „Илион") — приети съзнателно: gate-ът нарочно флагва в повече,
а в регистъра на поръчките такива думи почти не се срещат. Записан е
изходът при евентуални фалшиви отхвърляния: \p{L} lookaround граница
(JS \b е ASCII-only), а не списък с изключения. Изброяването на
-илиард величините е сведено до реалните форми на „милиард"
(бележка от ревюто).
… gate-а

„Дванадесет млрд. лева" нямаше нито цифра (за \d…млрд шаблона), нито
пълнословен суфикс — изписано числително + абревиатура се промъкваше
покрай целия gate. млрд/млн влизат в стем шаблона (флагват и без цифра;
негативен контрол: тестът пада без промяната). Остатъкът „хил." без
цифра остава приет — хилядите не са defamation-мащабният вектор
(бележка от ревюто на midt-bg#320).
…enylist

SQLite (D1) резолва "group_concat"(x), [group_concat](x) и
`group_concat`(x) до същия built-in, а регексът изискваше голо име
непосредствено пред скобата — цитиран идентификатор минаваше L1.
Опционален quote клас след името затваря и трите форми (adversarial
тестове; негативен контрол: падат без промяната). Идентификатор с
padding в кавичките е РАЗЛИЧЕН за SQLite и не резолва built-in — не
изисква обработка (бележка от ревюто).
midt-bg#317)

Vectorize зачита metadata филтри само върху свойства с провизиран
metadata index, а репото не провизира нито един — filter: { ns: 'entity' }
на реален индекс греши или под-филтрира, и то тихо, защото извикващите
поглъщат грешките. Native namespace-ът (entity-v1, версиониран като
SCHEMA_NS) не изисква metadata index и се прилага преди всякакви филтри.
Това беше последната употреба на metadata filter в модула. Entity корпус
никога не е индексиран, така че няма legacy кохорт — бъдещият indexer
трябва да upsert-ва с namespace: ENTITY_NS (README, „Какво остава").

Closes midt-bg#317
- Header-ът вече не твърди, че FTS инструментът search_entities
  съществува (само спецификация е) — semantic_search днес връща 0
  попадения по дизайн, докато entity корпусът не се индексира.
- ENTITY_NS коментарът и README вече НЕ пренасят правилото WHEN TO BUMP
  върху entity корпуса: то предполага ръчен append-only корпус, а entity
  корпусът е производен от данните — indexer-ът се нуждае от собствен
  reconciliation/delete път и трябва да пази id-тата си.
- metadata.ns е маркиран изрично като форензично поле — НЕ филтруемо
  (няма metadata index); скоупингът е само през native namespace.
- semanticSearch деградира match без score до 0 (същата защита като
  флора на retrieveSchemaContext) вместо TypeError в tools.ts; тест.
- Тестовете за namespace коват и БРОЯ на заявките (toHaveBeenCalledTimes
  (1)) — иначе filter-базиран retry път би минал зелен.
…ема пътя

Без флор, щом entity корпусът се напълни, top-K връща K-те най-близки
съседа ДОРИ когато всички са off-topic, и те стигат до модела като
реални hits. MIN_ENTITY_SCORE (симетричен на MIN_SCHEMA_SCORE) реже под
прага; match без score се чете като под флора и отпада — същото
защитно правило като схема пътя. Тестовете деривират скоровете от
флора ± ε (бележка от ревюто на midt-bg#319).
…-namespace кохорта

- Number.isFinite вместо ?? 0 във флор филтъра на semanticSearch:
  (undefined ?? 0) >= 0 промъкваше match без score като 'hit' при
  изричен minScore = 0, а истински score 0 при флор 0 е легитимен —
  двата случая вече са разграничени (+ тест). След филтъра score е
  гарантирано число и DTO-то няма нужда от fallback.
- README: 'стар кохорт' изрично включва и оригиналния pre-namespace
  кохорт (id-та в DEFAULT namespace отпреди версионирането) — за
  първите среди той също е orphan за чистене (бележки от ревюто).
@nedda76
nedda76 force-pushed the fix/assistant-entity-native-namespace branch from 3c85cae to ffa2d29 Compare August 26, 2026 18:03
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

assistant: semantic_search филтрира по 'ns' метаданни без провизиран metadata index

2 participants