From 6828a7d07f9de815c858a295124f6bcde9bd861a Mon Sep 17 00:00:00 2001 From: eunhhu Date: Thu, 8 Oct 2026 15:52:44 +0100 Subject: Research 135: batch plans' stage 2 measured (b11 = 7959885 against b10, interleaved): matmul 38.18 to 36.10 ms with 4.5% fewer instructions (segments in its nested rounds), knapsack's per-batch cost 0.68 to 0.63 us but knapsack 10.35 to 10.51 ms with 1% fewer instructions (its per-element loops placed elsewhere), sum0 1,743 instructions a batch: short of 025's stage-2 bars (9.2 ms, 0.45 us, 33 ms): 025 priced a segment's instruction at 50 cycles, the counts show about 25 instructions, and a batch's cost sits in finds, bounds, read records, lane setup, masks and the deferred store's check; a list's cells once a batch measured at 3% and not made; next, per element: stage 3's four-byte MUL (matmul 21 ms) --- CHECKPOINT.md | 2 +- docs/design/025-batch-programs.md | 6 +- docs/research/135-batch-plans-stage-two.md | 66 ++++++++++++++++ .../041-batches/2026-10-08-counts.jsonl | 10 +++ .../experiments/041-batches/2026-10-08-pairs.jsonl | 90 ++++++++++++++++++++++ 5 files changed, 172 insertions(+), 2 deletions(-) create mode 100644 docs/research/135-batch-plans-stage-two.md diff --git a/CHECKPOINT.md b/CHECKPOINT.md index 654ce16..f9c180a 100644 --- a/CHECKPOINT.md +++ b/CHECKPOINT.md @@ -13,7 +13,7 @@ | 영역 | 확인한 것 | 근거 | |---|---|---| | 앱 표현 | 상태(수, `bool`, 정확한 64비트 정수 `i64`, text와 커서·마크, 레코드의 리스트와 키 있는 리스트, 인덱스), 입력(키, text, 필드 있는 메시지, 타이머), 원자적 이벤트 핸들러, 순수 보기(조건식, 표와 걸러진 표, count·sum·max·min·first), `fn`·`use` 라이브러리, text 비교, 시간(`now`, `every`, `floor`, `%`). 로드할 때 타입·스택·합류·커서와 인덱스의 소속을 모두 검증하고 이벤트의 실행량에 상한이 있다 | 008, [016](docs/design/016-bool-and-i64.md), aup `docs/design/002-dsl-direction.md`, aup `make check`(파이썬 참조 모델 대조, 진단 223건) | -| 수명과 계산 | 값의 수명은 선언이 말한다: `state`(저장), `transient state`(앱이 도는 동안: 저장소에 쓰지 않고 다시 시작하면 초기값, SD 카드에서 쓰기 17배), `let`(이벤트 동안). 핸들러와 보기가 계산한다: 이벤트의 리스트(`let seen: list of Seen by node`), 세는 `for i in a .. b`, `break`, 8겹까지의 중첩, 그리고 `view 이름(인자) { … return … }`(스냅숏에서 돌아 소유자를 막지 않는다). 모든 반복은 시작할 때 횟수의 상한을 갖고, 모든 이벤트와 보기는 실행량 예산(정하지 않으면 2^28 명령)과 메모리 몫(2^28 바이트) 안에서 끝난다. 노드 10만·간선 100만의 BFS 한 이벤트가 HTTP로 90 ms였고(처음 397, 020 뒤 191; CPython 452, C 9.1, 123), 022 뒤 코어는 7.4 ms다(같은 프로세스의 C 9.9): 많이 찾는 저장된 리스트를 배열과 칸의 색인으로 펴고, 열을 값만큼 좁히고, 루프 묶음을 레지스터의 기계어로 돈다(리눅스 AArch64의 JIT; 다른 곳은 실행기, 답은 같다). 다만 C를 넘은 것은 미리 읽기 덕이고, 끄면 15.7 ms로 C의 1.57배다. 일곱 가지 일(실수 루프, 배낭, 정렬, 조인, 텍스트, 행렬, BFS)로 C와 견주면 124에서는 3–300배 느렸고, 023의 계층과 표현(HASHED: 차례를 어긴 키는 해시 표의 칸에, 위치가 필요할 때 정렬)으로 지금은 1.19–5.58배(기하 평균 1.92)다(125). Pure의 표현과 뜻대로 손으로 쓴 바닥은 C의 0.90배이고 뜻의 검사는 끌어내면 0–3%라, 막는 것은 실행 계층이다(124). 모든 블록을 SSA로 올리는 최적화 계층(023)의 첫 걸음들이 들어갔고, 텍스트(실행기로 돈다)와 BFS(계층이 덧붙이기를 못 한다)가 남았다. 기계어를 만들지 않는 길로, 루프를 회차 256개의 묶음으로 돌고 연산마다 빌드 때 만든 C 루프를 쓰는 묶음 실행기(024)를 시제품으로 재니 연산을 따로 해석하면 roots 0.99배, 배낭 0.71배(4바이트 레인), BFS 1.03배, join 1.77배, 행렬 곱 2.50배이고, 행렬 곱은 곱해 더하기를 합치면 0.94배였다(계층 1.20–2.46배, 기하 평균 1.92 대 1.58, 합친 꼴로 1.24; 041, 손으로 짠 천장). 1단계(세는 루프의 레인 꼴 몸체, 회차 1024개씩)가 들어가 knapsack이 실행기에서 1,041 ms에서 13.6 ms가 됐다(계층 7.5, 안쪽 루프는 1.17배). 묶음 루프가 없는 모듈의 실행기는 명령과 사이클이 그대로다(126). 2단계(중첩 루프를 레인마다 함께, `x = x + e`·`min`·`max` 모으기)로 roots가 9.13 ms가 되어 기계어 없이 계층(9.57)보다 빠르고, matmul은 914.9에서 50.0 ms다(계층 14.3, 127). 덧붙이기, 점화식, 칸에 더하기, 걷기를 묶어 join이 실행기의 423에서 161 ms가 됐다(계층 74). 남은 값은 덧붙이기 하나 약 100 ns(실행기와 같다), join의 점화식 회차당 약 60 ns, 레인이 적은 중첩 몸체의 해석이고, BFS는 묶이지 않아 기계어를 아직 걷어낼 수 없다(128). 덧붙이기를 리스트의 한 호출로, 점화식을 레지스터 꼴로, 모으기의 끝을 차례 없이 하자 knapsack 10.8, matmul 36.4, join 118, sort 55.5 ms가 됐다(기계어 7.9, 14.2, 72–79, 35.6; 129). BFS는 프런티어 묶음으로 셈하면 차례대로 할 꼬리가 간선의 약 10%다(129). 가드 루프, 묶음 안의 걷기, 커지기만 하는 걸러내기로 BFS도 묶음으로 돌아 93에서 41 ms가 됐다(기계어 7.7, C 10). 간선당 명령 211개 대 38.5개이고, 이 꼴의 바닥(약 50개)이 기계어 위라서 기계어를 걷어내려면 합친 연산이 필요하다(130). 범용 장치만으로(같은 코드의 값 다시 쓰기, 고르기, 비트로 묻기, 아핀 `first + i`) 간선당 112개, 24.0 ms가 됐고, 범용의 바닥은 기계어의 약 2배로 보인다(131). 레지스터 타일 해석기를 시제품으로 재니(133) 산수의 사슬은 C보다 빠르고(roots 5.8 ms) 모으기가 있는 몸체는 졌으며(배낭 4배, BFS 2.4배), 같은 자리에서 꽉 짠 훑기가 BFS 기계어의 1.2배·배낭 0.4배였다: 훑기의 꼴은 옳고 3배는 구현이라, 묶음 프로그램을 로드 때 한 번 만들고 루프를 꽉 짜는 길로 간다. 그 값을 재니 배낭에서 묶음마다 0.90 µs(시간의 38%)이고, 블록의 모양에서 나오는 사실은 로드 때, 값에서 나오는 사실만 묶음마다 보는 설계를 다섯 단계로 세웠다(025). 1단계(블록의 사실을 로드 때 한 번)로 배낭의 묶음마다 값이 0.90에서 0.68 µs, 배낭이 11.48에서 10.34 ms가 됐다. 막대(0.60 µs, 10.3 ms)에는 못 미쳤고, 남은 값은 명령마다의 해석이다(134). TPC-C −2.8%(기준 3% 안), 은행 질의의 명령 수는 1% 안. 같은 계산이 Pi(JIT)·WSL2·M3 Mac에서 같다. 같은 탐색을 보기로 하면 쓰기는 CPU를 나누는 만큼만 줄고(이벤트로 하면 0.2%로 멈춘다), 본문이 있는 보기는 보기의 스레드(`--view-workers`)가 계산해 연결 스레드를 막지 않는다(쓰기 최대 지연이 CPU만 나눌 때의 1.0배, 연결 스레드 하나에서 묻는 연결 둘이 1.95배) | [018](docs/design/018-lifetimes-and-computation.md), [020](docs/design/020-computing-faster.md), [117](docs/research/117-transient-states.md), [118](docs/research/118-computing-in-one-event.md), [119](docs/research/119-views-that-compute.md), [121](docs/research/121-computing-faster.md), [122](docs/research/122-views-off-the-connection-threads.md), [021](docs/design/021-past-c.md), [123](docs/research/123-past-c.md), [022](docs/design/022-arrays-and-registers.md), [124](docs/research/124-against-c.md), [023](docs/design/023-optimizing-tier.md), [125](docs/research/125-tier-first-steps.md), [024](docs/design/024-batch-executor.md), [126](docs/research/126-batch-executor-stage-one.md), [127](docs/research/127-batch-executor-stage-two.md), [128](docs/research/128-batch-executor-tables-and-costs.md), [129](docs/research/129-batch-executor-costs-cut.md), [130](docs/research/130-batch-executor-frontiers.md), [131](docs/research/131-batch-executor-general-cuts.md), [132](docs/research/132-batch-executor-floor-and-the-way-past.md), [133](docs/research/133-register-tiles-measured.md), [025](docs/design/025-batch-programs.md), [134](docs/research/134-batch-plans-stage-one.md) | +| 수명과 계산 | 값의 수명은 선언이 말한다: `state`(저장), `transient state`(앱이 도는 동안: 저장소에 쓰지 않고 다시 시작하면 초기값, SD 카드에서 쓰기 17배), `let`(이벤트 동안). 핸들러와 보기가 계산한다: 이벤트의 리스트(`let seen: list of Seen by node`), 세는 `for i in a .. b`, `break`, 8겹까지의 중첩, 그리고 `view 이름(인자) { … return … }`(스냅숏에서 돌아 소유자를 막지 않는다). 모든 반복은 시작할 때 횟수의 상한을 갖고, 모든 이벤트와 보기는 실행량 예산(정하지 않으면 2^28 명령)과 메모리 몫(2^28 바이트) 안에서 끝난다. 노드 10만·간선 100만의 BFS 한 이벤트가 HTTP로 90 ms였고(처음 397, 020 뒤 191; CPython 452, C 9.1, 123), 022 뒤 코어는 7.4 ms다(같은 프로세스의 C 9.9): 많이 찾는 저장된 리스트를 배열과 칸의 색인으로 펴고, 열을 값만큼 좁히고, 루프 묶음을 레지스터의 기계어로 돈다(리눅스 AArch64의 JIT; 다른 곳은 실행기, 답은 같다). 다만 C를 넘은 것은 미리 읽기 덕이고, 끄면 15.7 ms로 C의 1.57배다. 일곱 가지 일(실수 루프, 배낭, 정렬, 조인, 텍스트, 행렬, BFS)로 C와 견주면 124에서는 3–300배 느렸고, 023의 계층과 표현(HASHED: 차례를 어긴 키는 해시 표의 칸에, 위치가 필요할 때 정렬)으로 지금은 1.19–5.58배(기하 평균 1.92)다(125). Pure의 표현과 뜻대로 손으로 쓴 바닥은 C의 0.90배이고 뜻의 검사는 끌어내면 0–3%라, 막는 것은 실행 계층이다(124). 모든 블록을 SSA로 올리는 최적화 계층(023)의 첫 걸음들이 들어갔고, 텍스트(실행기로 돈다)와 BFS(계층이 덧붙이기를 못 한다)가 남았다. 기계어를 만들지 않는 길로, 루프를 회차 256개의 묶음으로 돌고 연산마다 빌드 때 만든 C 루프를 쓰는 묶음 실행기(024)를 시제품으로 재니 연산을 따로 해석하면 roots 0.99배, 배낭 0.71배(4바이트 레인), BFS 1.03배, join 1.77배, 행렬 곱 2.50배이고, 행렬 곱은 곱해 더하기를 합치면 0.94배였다(계층 1.20–2.46배, 기하 평균 1.92 대 1.58, 합친 꼴로 1.24; 041, 손으로 짠 천장). 1단계(세는 루프의 레인 꼴 몸체, 회차 1024개씩)가 들어가 knapsack이 실행기에서 1,041 ms에서 13.6 ms가 됐다(계층 7.5, 안쪽 루프는 1.17배). 묶음 루프가 없는 모듈의 실행기는 명령과 사이클이 그대로다(126). 2단계(중첩 루프를 레인마다 함께, `x = x + e`·`min`·`max` 모으기)로 roots가 9.13 ms가 되어 기계어 없이 계층(9.57)보다 빠르고, matmul은 914.9에서 50.0 ms다(계층 14.3, 127). 덧붙이기, 점화식, 칸에 더하기, 걷기를 묶어 join이 실행기의 423에서 161 ms가 됐다(계층 74). 남은 값은 덧붙이기 하나 약 100 ns(실행기와 같다), join의 점화식 회차당 약 60 ns, 레인이 적은 중첩 몸체의 해석이고, BFS는 묶이지 않아 기계어를 아직 걷어낼 수 없다(128). 덧붙이기를 리스트의 한 호출로, 점화식을 레지스터 꼴로, 모으기의 끝을 차례 없이 하자 knapsack 10.8, matmul 36.4, join 118, sort 55.5 ms가 됐다(기계어 7.9, 14.2, 72–79, 35.6; 129). BFS는 프런티어 묶음으로 셈하면 차례대로 할 꼬리가 간선의 약 10%다(129). 가드 루프, 묶음 안의 걷기, 커지기만 하는 걸러내기로 BFS도 묶음으로 돌아 93에서 41 ms가 됐다(기계어 7.7, C 10). 간선당 명령 211개 대 38.5개이고, 이 꼴의 바닥(약 50개)이 기계어 위라서 기계어를 걷어내려면 합친 연산이 필요하다(130). 범용 장치만으로(같은 코드의 값 다시 쓰기, 고르기, 비트로 묻기, 아핀 `first + i`) 간선당 112개, 24.0 ms가 됐고, 범용의 바닥은 기계어의 약 2배로 보인다(131). 레지스터 타일 해석기를 시제품으로 재니(133) 산수의 사슬은 C보다 빠르고(roots 5.8 ms) 모으기가 있는 몸체는 졌으며(배낭 4배, BFS 2.4배), 같은 자리에서 꽉 짠 훑기가 BFS 기계어의 1.2배·배낭 0.4배였다: 훑기의 꼴은 옳고 3배는 구현이라, 묶음 프로그램을 로드 때 한 번 만들고 루프를 꽉 짜는 길로 간다. 그 값을 재니 배낭에서 묶음마다 0.90 µs(시간의 38%)이고, 블록의 모양에서 나오는 사실은 로드 때, 값에서 나오는 사실만 묶음마다 보는 설계를 다섯 단계로 세웠다(025). 1단계(블록의 사실을 로드 때 한 번)로 배낭의 묶음마다 값이 0.90에서 0.68 µs, 배낭이 11.48에서 10.34 ms가 됐다. 막대(0.60 µs, 10.3 ms)에는 못 미쳤고, 남은 값은 명령마다의 해석이다(134). 2단계(균일·아핀 조각을 스칼라로 한 번에)는 matmul을 38.2에서 36.1 ms로 줄였지만(중첩 회차의 해석) 배낭의 묶음마다 값은 0.63 µs에 머물렀다: 그 값은 키로 찾기와 레인 연산의 준비에 있다(135). 다음은 요소마다다. TPC-C −2.8%(기준 3% 안), 은행 질의의 명령 수는 1% 안. 같은 계산이 Pi(JIT)·WSL2·M3 Mac에서 같다. 같은 탐색을 보기로 하면 쓰기는 CPU를 나누는 만큼만 줄고(이벤트로 하면 0.2%로 멈춘다), 본문이 있는 보기는 보기의 스레드(`--view-workers`)가 계산해 연결 스레드를 막지 않는다(쓰기 최대 지연이 CPU만 나눌 때의 1.0배, 연결 스레드 하나에서 묻는 연결 둘이 1.95배) | [018](docs/design/018-lifetimes-and-computation.md), [020](docs/design/020-computing-faster.md), [117](docs/research/117-transient-states.md), [118](docs/research/118-computing-in-one-event.md), [119](docs/research/119-views-that-compute.md), [121](docs/research/121-computing-faster.md), [122](docs/research/122-views-off-the-connection-threads.md), [021](docs/design/021-past-c.md), [123](docs/research/123-past-c.md), [022](docs/design/022-arrays-and-registers.md), [124](docs/research/124-against-c.md), [023](docs/design/023-optimizing-tier.md), [125](docs/research/125-tier-first-steps.md), [024](docs/design/024-batch-executor.md), [126](docs/research/126-batch-executor-stage-one.md), [127](docs/research/127-batch-executor-stage-two.md), [128](docs/research/128-batch-executor-tables-and-costs.md), [129](docs/research/129-batch-executor-costs-cut.md), [130](docs/research/130-batch-executor-frontiers.md), [131](docs/research/131-batch-executor-general-cuts.md), [132](docs/research/132-batch-executor-floor-and-the-way-past.md), [133](docs/research/133-register-tiles-measured.md), [025](docs/design/025-batch-programs.md), [134](docs/research/134-batch-plans-stage-one.md), [135](docs/research/135-batch-plans-stage-two.md) | | 보기 밀기 | 보기의 `GET`에 `Accept: text/event-stream`이면 그 값을 민다(SSE, 브라우저의 `EventSource` 그대로). 같은 보기와 인자를 보는 구독자는 계산 한 번을 나누고, 값이 바뀔 때만, 많아야 10 ms마다 한 번 보낸다. 느린 구독자에게는 가장 새 값 하나만 기다리게 한다. 모듈이 바뀌어도 같은 이름의 보기로 이어 가고, 토큰을 빼면 끊는다. 구독자 1,000에 쓰기 초당 100번까지 신선도 p99 11 ms 이하, 초당 1번이면 100 ms 폴링의 약 10분의 1 CPU(이벤트 하나와 요청 하나의 값이 같아 메시지 수의 비다), 구독자 1만에 구독자마다 0.3–0.4 KiB, 1만에게 퍼지기까지 p99 45 ms | [019](docs/design/019-pushing-views.md), [120](docs/research/120-pushing-views.md) | | 영속 | 선언한 상태가 곧 영속 상태다. 목록은 이미지와 로그(저장마다 바뀐 기록 한 항목, 재사용하는 할당 구간, 앞 항목의 다이제스트로 이어짐)에, 나머지는 트리 저장소에(커밋당 한 연속 구간과 동기화 한 번). 이벤트 묶음마다 저장 한 번, 이미지는 소유자 밖에서 체크포인트. `kill -9`와 커밋 각 단계의 죽음 뒤 확인 응답한 이벤트가 모두 남는다. 레코드·키가 바뀐 모듈로 바꿔도 데이터가 이름으로 옮겨진다 | [076](docs/research/076-one-sync-commit.md), [081](docs/research/081-tail-records.md), [092](docs/research/092-tpcc.md), 008 상태 영속·교체 | | 인터페이스 | 한 명세가 TUI(셀 단위 갱신), CLI, 문장(NUI), 웹 GUI가 된다. 저장하면 실행 중인 앱이 상태를 이어 새 모듈로 바뀐다(`aup watch`, `vega … --watch`) | Vega `docs/design/001-first-component.md`, Vega `make check`(가상 터미널, 헤드리스 Chromium 포함) | diff --git a/docs/design/025-batch-programs.md b/docs/design/025-batch-programs.md index cbb125f..f6a310e 100644 --- a/docs/design/025-batch-programs.md +++ b/docs/design/025-batch-programs.md @@ -1,7 +1,11 @@ # 025 — 묶음 프로그램: 블록은 로드 때 한 번 읽고, 묶음마다는 값만 본다 작성일: 2026-10-08. 상태: 1단계를 만들었다([134](../research/134-batch-plans-stage-one.md): 배낭의 묶음마다 0.90 → 0.68 µs, 11.48 → -10.34 ms. 막대 ≤ 0.60 µs와 ≤ 10.3 ms에 못 미쳤다. 남은 것은 명령마다 `Val`을 다루는 해석으로, 2단계의 몫이다). [024](024-batch-executor.md)가 처음에 적고 만들지 않은 단계("묶음 프로그램은 루프마다 한 번 +10.34 ms. 막대 ≤ 0.60 µs와 ≤ 10.3 ms에 못 미쳤다. 남은 것은 명령마다 `Val`을 다루는 해석으로, 2단계의 몫이다). 2단계(균일·아핀 +조각)를 만들었다([135](../research/135-batch-plans-stage-two.md): matmul 38.18 → 36.10 ms, 명령 −4.5%; 배낭의 묶음마다 0.63 µs, 배낭 +10.51 ms(놓인 자리); 막대 ≤ 9.2 ms, ≤ 0.45 µs, ≤ 33 ms에 못 미쳤다. 조각은 중첩 회차의 수단이고, 묶음마다 값은 키로 찾기와 레인 +연산의 준비에 있어 이 꼴로는 약 0.6 µs에서 멈춘다. 리스트의 칸 캐시는 3%라 하지 않았다). 다음은 요소마다다(3단계: 4바이트 곱하기, +matmul ≤ 21 ms). [024](024-batch-executor.md)가 처음에 적고 만들지 않은 단계("묶음 프로그램은 루프마다 한 번 만든다")이고, [132](../research/132-batch-executor-floor-and-the-way-past.md)의 A, [133](../research/133-register-tiles-measured.md)이 정한 길이다. 사용자의 방향: 범용 장치로, 합친 연산의 표 없이, 기계어 없이, 메모리를 적게(2026-10-05, 2026-10-08). diff --git a/docs/research/135-batch-plans-stage-two.md b/docs/research/135-batch-plans-stage-two.md new file mode 100644 index 0000000..bb7de19 --- /dev/null +++ b/docs/research/135-batch-plans-stage-two.md @@ -0,0 +1,66 @@ +# 135 — 묶음 프로그램 2단계: 균일·아핀 조각은 중첩 회차의 수단이었다 + +2026-10-08. [025](../design/025-batch-programs.md)의 2단계다. 묶음 루프의 블록에서 균일·아핀 값 하나를 만드는 명령의 줄(조각)을 +로드 때 찾아 두고, 묶음이 그 첫 명령에 닿으면 스칼라로 한 번에 돈다. 코드는 `c81f65e`(조각과 견줌)와 견줌을 지운 커밋이다. +잰 것은 `b11` = `c81f65e`를 `b10`(1단계)과 번갈아 돈 것이다(134와 같은 방법). + +## 쉬운 말로 + +- **막대에 못 미쳤다.** 배낭은 10.35에서 10.51 ms다(막대 ≤ 9.2). 묶음마다 값은 0.68에서 0.63 µs다(막대 ≤ 0.45). matmul은 + 38.18에서 36.10 ms다(막대 ≤ 33). sum0의 묶음마다 명령은 1,822에서 1,743이다(막대 ≤ 1,300). +- **셈이 틀렸다.** 025는 조각이 덮는 명령(필드, 지역 변수, 균일한 행의 항목 읽기, 산수)을 명령 하나에 약 50 사이클로 셈했다. + 명령 수로 보면 조각은 명령 하나에 약 25 명령을 덜 낸다. 배낭의 묶음마다 값은 조각이 건드리지 않는 곳에 있다. 키로 찾기 셋, + 경계, 읽기의 기록, 4바이트 연산의 준비, 가르기의 마스크, 미룬 쓰기의 확인이다. +- **조각은 중첩 회차의 수단이다.** matmul은 j를 레인으로 묶고 k를 레인이 함께 도는데, 안쪽 회차마다 몸체를 해석한다(메시지 하나에 + 4만 번). 그 몸체의 `i * go.n + k`, `k * go.n + j`, `a[..].v`가 조각이라 명령이 4.5% 줄었고, 시간도 5.4% 줄었다. +- **배낭이 느려진 것은 놓인 자리다.** 명령은 1% 적다. 묶음마다 값은 줄었는데(0.05 µs × 4,886 = 0.25 ms), 조각이 건드리지 않는 + 요소마다의 부분이 0.4 ms 늘었다. 같은 소스의 루프가 다른 자리에 놓였다(`words_op`의 더하기 루프가 64바이트 줄의 28에서 60으로). +- **뜻.** 이 해석기의 꼴로는 배낭 같은 블록의 묶음마다 값이 약 0.6 µs에서 멈춘다. 그 아래는 루프마다 미리 짠 프로그램(값의 꼴과 + 리스트의 사실과 의존 검사를 다 미리 정한 것)이 있어야 하고, 그것은 다른 값과 위험이다. 그래서 다음 노력은 요소마다로 간다. + 배낭은 요소마다에 약 6 ms, matmul은 실수 연산에 약 22 ms가 있다. 묶음마다는 배낭에서 약 3 ms다. + +## 잰 것 + +| 일 | `b10` | `b11` | 레인 256 (`b11`) | 명령 (`b10` → `b11`) | 사이클 | +|---|---:|---:|---:|---:|---:| +| knapsack | 10.35 ms | 10.51 | 19.64 (`b10` 20.24) | −0.96% | +1.1% | +| matmul | 38.18 | **36.10** | | −4.52% | −4.9% | +| roots | 8.81 | 8.82 | 10.47 | +0.24% | 0.0% | +| join | 117.19 | 115.92 | 119.91 | −0.33% | +1.9% | +| BFS | 24.25 | 24.17 | 25.62 | +0.43% | +1.9% | + +- **배낭의 묶음마다**: (19.64 − 10.51) / 14,490 = 0.63 µs(`b10` 0.68). +- **sum0과 ops0의 묶음마다**(`icount`): sum0 1,822 → 1,743 명령, ops0 1,658 → 1,561 명령. sum0의 블록(`let f = i + 1`, 모으기, + `let z = f`)에서 조각은 첫 줄 하나다. +- 실행기만의 길은 명령이 그대로다(사이클은 join +3.5%, BFS −3.1%: 놓인 자리). + +원본: `041-batches/2026-10-08-pairs.jsonl`, `2026-10-08-counts.jsonl`. + +## 만든 것 + +- **조각**(`plan_segments`, 로드 때). 계획의 다른 몫(칸에 더하기, 점화식, 모으기의 앞, 같은 코드의 값)이 없고, 안에 점프가 떨어지지 + 않는 명령의 줄로, 두 개 이상이고, 스스로 만든 값만으로 값 하나를 만든다. 넣는 명령: 상수, LOAD, 필드, INDEX_LOAD, 행(루프 자신의 + 걷기와 블록 안의 걷기가 아닌 것), 블록이 쓰지 않는 지역 변수, 루프 변수, 중첩 세는 루프의 변수(그 블록 안), 앞에서 조각이 한 번 + 쓴 지역 변수, 균일한 행의 항목 읽기(FIND에 붙은 읽기는 빼고), NEG·NOT(JZ 앞은 빼고)·FLOOR, 산수와 비교. 문장이 거기서 끝나면 그 + `LOCAL_STORE`도. +- **조각 돌기**(`segment`). 값마다 스칼라(균일, 또는 아핀의 첫 레인과 보폭)로 명령마다의 길과 같은 규칙(`number_op`, `affine_op`, + `affine_of`, 같은 경계)을 쓴다. 값이 계획과 다르면(지역 변수가 레인이다, 정수가 아니다, 결함, 리스트 끝 너머) 아무것도 하지 않고 + 명령마다의 길이 그 줄을 돈다. 고르기 안과 펼친 걷기 안에서는 돌지 않는다. 항목 읽기의 기록(`read_of`)은 조각이 끝까지 간 뒤에만 한다. +- **견줌**(`PURE_BATCH_CHECK`). 만드는 동안 조각을 값만 셈하고(마른 걸음), 명령마다의 길이 같은 줄을 돈 뒤 쌓인 값과 견줬다. 시드 + 23의 프로그램을 돌린 650번 가운데 213번이 조각을 지났고, 조각 312,249번이 모두 같았다. 다 지난 뒤 지웠다. +- **하지 않은 것: 리스트의 칸을 묶음마다 한 번.** `pass` 안에서 칸을 가져오는 곳은 둘(`item_get`, `find`)이고, 묶음마다 2–3번, + 약 50 사이클(3%)이다. 하지 않았다. + +## 뜻과 맞음 + +- 견줌 빌드에서 시드 1, 2, 3, 5, 23의 무작위 프로그램(기본과 `PURE_SELECT=all`), 고정 소스 여섯의 세 길(두 모드), 단위 시험 세 + 모드가 지났다. +- 견줌을 지운 빌드에서 단위 시험 세 모드, ASan 단위 시험(기본과 실행기 모드), sanitized `pure-run`의 고정 소스(두 모드)와 시드 23의 + 프로그램(두 모드), Pure의 `make check`, aup의 검사 두 모드가 지났다. TPC-C와 은행 질의는 재지 않았다(실행기는 그대로, 명령 수 같음). + +## 다음 + +3단계부터 요소마다로 간다. 첫째는 `words_op`의 곱하기다. matmul은 1바이트 열에서 읽은 값을 곱하는데, 4바이트 레인에 곱하기가 없어 +8바이트 실수로 바꾸고 유한 검사를 한다(`binary` 16.7, `numbers` 3.0, `cells_at` 2.1 ms). 64비트 곱으로 넘침을 보는 4바이트 +곱하기면 요소 800만 개에 약 1.5–2 사이클, 5–7 ms다. 막대는 matmul ≤ 21 ms다(041의 천장 17.75는 4단계의 몫). 그다음 모으기의 균일한 +e(sum0의 80%), 그다음 배낭의 훑기(4단계). diff --git a/research/experiments/041-batches/2026-10-08-counts.jsonl b/research/experiments/041-batches/2026-10-08-counts.jsonl index 546030b..0e89a46 100644 --- a/research/experiments/041-batches/2026-10-08-counts.jsonl +++ b/research/experiments/041-batches/2026-10-08-counts.jsonl @@ -36,3 +36,13 @@ {"version":"b10","way":"rounds","work":"roots","instructions":2755945365,"cycles":989112526} {"version":"b10","way":"batches","work":"join","instructions":1868533943,"cycles":1049050190} {"version":"b10","way":"rounds","work":"join","instructions":7669661641,"cycles":3314577656} +{"version":"b11","way":"batches","work":"bfs","instructions":3381283015,"cycles":1683369887} +{"version":"b11","way":"rounds","work":"bfs","instructions":4715633866,"cycles":2086008861} +{"version":"b11","way":"batches","work":"knapsack","instructions":373838059,"cycles":121140642} +{"version":"b11","way":"rounds","work":"knapsack","instructions":21688102965,"cycles":7548998383} +{"version":"b11","way":"batches","work":"matmul","instructions":924133786,"cycles":313909094} +{"version":"b11","way":"rounds","work":"matmul","instructions":21436716024,"cycles":6624677320} +{"version":"b11","way":"batches","work":"roots","instructions":166257657,"cycles":113412601} +{"version":"b11","way":"rounds","work":"roots","instructions":2755945430,"cycles":987962207} +{"version":"b11","way":"batches","work":"join","instructions":1862305226,"cycles":1068457401} +{"version":"b11","way":"rounds","work":"join","instructions":7669661824,"cycles":3430154017} diff --git a/research/experiments/041-batches/2026-10-08-pairs.jsonl b/research/experiments/041-batches/2026-10-08-pairs.jsonl index 1d16abf..03d777c 100644 --- a/research/experiments/041-batches/2026-10-08-pairs.jsonl +++ b/research/experiments/041-batches/2026-10-08-pairs.jsonl @@ -118,3 +118,93 @@ {"version":"b10-256","way":"batches","turn":5,"work":"join","pure_median_ms":118.650,"c_median_ms":31.727,"ratio":3.740,"agree":true} {"version":"b10-256","way":"batches","turn":5,"work":"matmul","pure_median_ms":38.295,"c_median_ms":7.578,"ratio":5.053,"agree":true} {"version":"b10-256","way":"batches","turn":5,"work":"bfs","pure_median_ms":25.631,"c_median_ms":10.087,"ratio":2.541,"agree":true} +{"version":"b10","way":"batches","turn":1,"work":"roots","pure_median_ms":8.952,"c_median_ms":6.875,"ratio":1.302,"agree":true} +{"version":"b10","way":"batches","turn":1,"work":"knapsack","pure_median_ms":10.346,"c_median_ms":6.240,"ratio":1.658,"agree":true} +{"version":"b10","way":"batches","turn":1,"work":"join","pure_median_ms":116.423,"c_median_ms":30.240,"ratio":3.850,"agree":true} +{"version":"b10","way":"batches","turn":1,"work":"matmul","pure_median_ms":38.182,"c_median_ms":7.544,"ratio":5.061,"agree":true} +{"version":"b10","way":"batches","turn":1,"work":"bfs","pure_median_ms":24.217,"c_median_ms":10.015,"ratio":2.418,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"roots","pure_median_ms":8.815,"c_median_ms":6.870,"ratio":1.283,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"knapsack","pure_median_ms":10.500,"c_median_ms":6.228,"ratio":1.686,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"join","pure_median_ms":114.853,"c_median_ms":31.476,"ratio":3.649,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"matmul","pure_median_ms":36.167,"c_median_ms":7.582,"ratio":4.770,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"bfs","pure_median_ms":24.524,"c_median_ms":10.185,"ratio":2.408,"agree":true} +{"version":"b10","way":"batches","turn":2,"work":"roots","pure_median_ms":8.818,"c_median_ms":6.863,"ratio":1.285,"agree":true} +{"version":"b10","way":"batches","turn":2,"work":"knapsack","pure_median_ms":10.357,"c_median_ms":6.226,"ratio":1.663,"agree":true} +{"version":"b10","way":"batches","turn":2,"work":"join","pure_median_ms":117.499,"c_median_ms":32.088,"ratio":3.662,"agree":true} +{"version":"b10","way":"batches","turn":2,"work":"matmul","pure_median_ms":38.138,"c_median_ms":7.527,"ratio":5.067,"agree":true} +{"version":"b10","way":"batches","turn":2,"work":"bfs","pure_median_ms":24.247,"c_median_ms":10.089,"ratio":2.403,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"roots","pure_median_ms":8.827,"c_median_ms":6.865,"ratio":1.286,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"knapsack","pure_median_ms":10.547,"c_median_ms":6.232,"ratio":1.693,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"join","pure_median_ms":115.034,"c_median_ms":31.988,"ratio":3.596,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"matmul","pure_median_ms":36.076,"c_median_ms":7.580,"ratio":4.760,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"bfs","pure_median_ms":23.961,"c_median_ms":10.116,"ratio":2.369,"agree":true} +{"version":"b10","way":"batches","turn":3,"work":"roots","pure_median_ms":8.815,"c_median_ms":6.861,"ratio":1.285,"agree":true} +{"version":"b10","way":"batches","turn":3,"work":"knapsack","pure_median_ms":10.354,"c_median_ms":6.229,"ratio":1.662,"agree":true} +{"version":"b10","way":"batches","turn":3,"work":"join","pure_median_ms":119.922,"c_median_ms":31.283,"ratio":3.834,"agree":true} +{"version":"b10","way":"batches","turn":3,"work":"matmul","pure_median_ms":38.389,"c_median_ms":7.542,"ratio":5.090,"agree":true} +{"version":"b10","way":"batches","turn":3,"work":"bfs","pure_median_ms":24.170,"c_median_ms":9.991,"ratio":2.419,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"roots","pure_median_ms":8.846,"c_median_ms":6.865,"ratio":1.289,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"knapsack","pure_median_ms":10.483,"c_median_ms":6.222,"ratio":1.685,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"join","pure_median_ms":116.393,"c_median_ms":33.627,"ratio":3.461,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"matmul","pure_median_ms":36.096,"c_median_ms":7.536,"ratio":4.790,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"bfs","pure_median_ms":24.333,"c_median_ms":10.073,"ratio":2.416,"agree":true} +{"version":"b10","way":"batches","turn":4,"work":"roots","pure_median_ms":8.811,"c_median_ms":6.864,"ratio":1.284,"agree":true} +{"version":"b10","way":"batches","turn":4,"work":"knapsack","pure_median_ms":10.321,"c_median_ms":6.228,"ratio":1.657,"agree":true} +{"version":"b10","way":"batches","turn":4,"work":"join","pure_median_ms":117.535,"c_median_ms":32.601,"ratio":3.605,"agree":true} +{"version":"b10","way":"batches","turn":4,"work":"matmul","pure_median_ms":38.172,"c_median_ms":7.522,"ratio":5.075,"agree":true} +{"version":"b10","way":"batches","turn":4,"work":"bfs","pure_median_ms":24.055,"c_median_ms":10.087,"ratio":2.385,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"roots","pure_median_ms":8.818,"c_median_ms":6.860,"ratio":1.285,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"knapsack","pure_median_ms":10.517,"c_median_ms":6.229,"ratio":1.688,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"join","pure_median_ms":116.684,"c_median_ms":31.468,"ratio":3.708,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"matmul","pure_median_ms":36.241,"c_median_ms":7.531,"ratio":4.812,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"bfs","pure_median_ms":24.066,"c_median_ms":9.976,"ratio":2.412,"agree":true} +{"version":"b10","way":"batches","turn":5,"work":"roots","pure_median_ms":8.808,"c_median_ms":6.865,"ratio":1.283,"agree":true} +{"version":"b10","way":"batches","turn":5,"work":"knapsack","pure_median_ms":10.365,"c_median_ms":6.229,"ratio":1.664,"agree":true} +{"version":"b10","way":"batches","turn":5,"work":"join","pure_median_ms":117.192,"c_median_ms":29.216,"ratio":4.011,"agree":true} +{"version":"b10","way":"batches","turn":5,"work":"matmul","pure_median_ms":38.254,"c_median_ms":7.555,"ratio":5.063,"agree":true} +{"version":"b10","way":"batches","turn":5,"work":"bfs","pure_median_ms":24.286,"c_median_ms":9.995,"ratio":2.430,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"roots","pure_median_ms":8.824,"c_median_ms":6.865,"ratio":1.285,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"knapsack","pure_median_ms":10.499,"c_median_ms":6.226,"ratio":1.686,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"join","pure_median_ms":114.614,"c_median_ms":30.930,"ratio":3.706,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"matmul","pure_median_ms":36.021,"c_median_ms":7.558,"ratio":4.766,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"bfs","pure_median_ms":24.170,"c_median_ms":10.017,"ratio":2.413,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"roots","pure_median_ms":8.824,"c_median_ms":6.861,"ratio":1.286,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"knapsack","pure_median_ms":10.487,"c_median_ms":6.227,"ratio":1.684,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"join","pure_median_ms":116.628,"c_median_ms":32.802,"ratio":3.556,"agree":true} +{"version":"b11","way":"batches","turn":1,"work":"bfs","pure_median_ms":24.080,"c_median_ms":9.958,"ratio":2.418,"agree":true} +{"version":"b11-256","way":"batches","turn":1,"work":"roots","pure_median_ms":10.443,"c_median_ms":6.863,"ratio":1.522,"agree":true} +{"version":"b11-256","way":"batches","turn":1,"work":"knapsack","pure_median_ms":19.649,"c_median_ms":6.232,"ratio":3.153,"agree":true} +{"version":"b11-256","way":"batches","turn":1,"work":"join","pure_median_ms":120.220,"c_median_ms":32.290,"ratio":3.723,"agree":true} +{"version":"b11-256","way":"batches","turn":1,"work":"bfs","pure_median_ms":25.666,"c_median_ms":9.996,"ratio":2.568,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"roots","pure_median_ms":8.827,"c_median_ms":6.860,"ratio":1.287,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"knapsack","pure_median_ms":10.632,"c_median_ms":6.323,"ratio":1.682,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"join","pure_median_ms":118.936,"c_median_ms":33.003,"ratio":3.604,"agree":true} +{"version":"b11","way":"batches","turn":2,"work":"bfs","pure_median_ms":27.830,"c_median_ms":12.270,"ratio":2.268,"agree":true} +{"version":"b11-256","way":"batches","turn":2,"work":"roots","pure_median_ms":10.466,"c_median_ms":6.872,"ratio":1.523,"agree":true} +{"version":"b11-256","way":"batches","turn":2,"work":"knapsack","pure_median_ms":19.664,"c_median_ms":6.249,"ratio":3.147,"agree":true} +{"version":"b11-256","way":"batches","turn":2,"work":"join","pure_median_ms":118.582,"c_median_ms":33.762,"ratio":3.512,"agree":true} +{"version":"b11-256","way":"batches","turn":2,"work":"bfs","pure_median_ms":25.601,"c_median_ms":10.025,"ratio":2.554,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"roots","pure_median_ms":8.827,"c_median_ms":6.865,"ratio":1.286,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"knapsack","pure_median_ms":10.507,"c_median_ms":6.308,"ratio":1.666,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"join","pure_median_ms":116.772,"c_median_ms":33.051,"ratio":3.533,"agree":true} +{"version":"b11","way":"batches","turn":3,"work":"bfs","pure_median_ms":24.173,"c_median_ms":10.328,"ratio":2.340,"agree":true} +{"version":"b11-256","way":"batches","turn":3,"work":"roots","pure_median_ms":10.516,"c_median_ms":6.863,"ratio":1.532,"agree":true} +{"version":"b11-256","way":"batches","turn":3,"work":"knapsack","pure_median_ms":19.639,"c_median_ms":6.235,"ratio":3.150,"agree":true} +{"version":"b11-256","way":"batches","turn":3,"work":"join","pure_median_ms":119.911,"c_median_ms":30.332,"ratio":3.953,"agree":true} +{"version":"b11-256","way":"batches","turn":3,"work":"bfs","pure_median_ms":25.588,"c_median_ms":10.012,"ratio":2.556,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"roots","pure_median_ms":8.816,"c_median_ms":6.866,"ratio":1.284,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"knapsack","pure_median_ms":10.517,"c_median_ms":6.232,"ratio":1.688,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"join","pure_median_ms":114.556,"c_median_ms":31.417,"ratio":3.646,"agree":true} +{"version":"b11","way":"batches","turn":4,"work":"bfs","pure_median_ms":24.061,"c_median_ms":10.088,"ratio":2.385,"agree":true} +{"version":"b11-256","way":"batches","turn":4,"work":"roots","pure_median_ms":10.547,"c_median_ms":6.875,"ratio":1.534,"agree":true} +{"version":"b11-256","way":"batches","turn":4,"work":"knapsack","pure_median_ms":19.628,"c_median_ms":6.237,"ratio":3.147,"agree":true} +{"version":"b11-256","way":"batches","turn":4,"work":"join","pure_median_ms":122.063,"c_median_ms":30.966,"ratio":3.942,"agree":true} +{"version":"b11-256","way":"batches","turn":4,"work":"bfs","pure_median_ms":25.620,"c_median_ms":9.975,"ratio":2.568,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"roots","pure_median_ms":8.814,"c_median_ms":6.864,"ratio":1.284,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"knapsack","pure_median_ms":10.527,"c_median_ms":6.235,"ratio":1.688,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"join","pure_median_ms":115.441,"c_median_ms":29.829,"ratio":3.870,"agree":true} +{"version":"b11","way":"batches","turn":5,"work":"bfs","pure_median_ms":24.336,"c_median_ms":10.132,"ratio":2.402,"agree":true} +{"version":"b11-256","way":"batches","turn":5,"work":"roots","pure_median_ms":10.442,"c_median_ms":6.865,"ratio":1.521,"agree":true} +{"version":"b11-256","way":"batches","turn":5,"work":"knapsack","pure_median_ms":19.625,"c_median_ms":6.227,"ratio":3.151,"agree":true} +{"version":"b11-256","way":"batches","turn":5,"work":"join","pure_median_ms":117.410,"c_median_ms":32.998,"ratio":3.558,"agree":true} +{"version":"b11-256","way":"batches","turn":5,"work":"bfs","pure_median_ms":25.714,"c_median_ms":9.954,"ratio":2.583,"agree":true} -- cgit v1.2.3