본문 바로가기

전체 글

(1256)
위성영상 정유탱크 객체 판독 해당 내용의 데이터는 ai hub 위성 영상 객체 판독을 사용했음. 링크 AI-Hub데이터셋 다운로드 승인이 완료 된 후 API 다운로드 서비스를 이용하실 수 있습니다. API 다운로드 파일은 분할 압축되어 다운로드 됩니다. 분할 압축 해제를 위해서는 분할 압축 파일들의 병합이aihub.or.kr 1. 문제와 데이터아리랑(KOMPSAT) 3/3A호 위성영상에서 정유탱크(storage tank)를 검출을 목표로 한다.평가 지표는 AP @ IoU > 0.5 — 예측 박스와 정답 박스가 절반 넘게 겹치면 맞춘 것으로 치고 계산한 Average Precision 원본은 AI Hub 위성영상객체판독 데이터셋에는 20개 클래스에 객체 502,248개가 들어있는데, 정유탱크는 그중 0.42%뿐이다. 전체 패치 (1..
YOLO 객체 검출 학습 - Ultralytics 해당 내용의 데이터는 ai hub 위성 영상 객체 판독을 사용했음. 링크 AI-Hub데이터셋 다운로드 승인이 완료 된 후 API 다운로드 서비스를 이용하실 수 있습니다. API 다운로드 파일은 분할 압축되어 다운로드 됩니다. 분할 압축 해제를 위해서는 분할 압축 파일들의 병합이aihub.or.kr 1. YOLO가 요구하는 데이터 형식Ultralytics YOLO는 세가지 데이터로 이미지 학습이 가능하다. 1.1 디렉토리 이름으로 라벨을 찾음Ultralytics는 이미지 경로에서 /images/를 /labels/로 문자열 치환해 라벨 파일을 찾는다. 라벨에 대한 확장자는 .txt로 하면 된다.그래서 디렉토리 이름은 반드시 images / labels여야 하고, 이미지와 라벨의 파일명(stem)이 같아야 ..
[spark] Adaptive Query Execution 실제 spark의 설계를 하다보면 처음에는 균등하게 파티션을 분배하면 되겠지 라고 실행해보면, 실제로는 하나의 파티션이 대부분을 차지하게 되어서 다른 작업들이 밀리는 현상을 보게 된다. 다음은 spark의 실행계획 이미지이다. 왼쪽은 통계 추정으로 만든 초기 계획, 오른쪽은 실행이 끝난 뒤의 최종 계획이다. 최종계획을 보면 Sort 두 개와 SortMergeJoin이 사라지고 BroadcastHashJoin으로 바뀌었다.실행해 보니 오른쪽 테이블이 추정보다 훨씬 작았다는 뜻이다. 새로 나타난 AQEShuffleRead가 AQE 개입 지점이고, 뒤에 붙는 local · coalesced 같은 꼬리표가 무엇을 했는지 알려준다. 이 두 계획의 차이가 곧 AQE다. AQE는 shuffle이 끝난 다음 pa..
[paper] Unskilled and Unaware of It 이번주 정말 쓸데없는 논문은 Kruger & Dunning(1999)의 "Unskilled and Unaware of It"로 심리학에서 유명한 "더닝-크루거 효과" 논문입니다.https://www.researchgate.net/publication/12688660_Unskilled_and_Unaware_of_It_How_Difficulties_in_Recognizing_One's_Own_Incompetence_Lead_to_Inflated_Self-Assessments1. 가정능력이 부족한 사람은 단순히 일을 못하는 데서 그치지 않고, 자신이 못한다는 사실 자체를 인식하지 못한다2. 실험- 100명의 사람들에게 시험을 보게 한 후 본인이 몇 등이 될 것 같은지 물어봄- 하위 25%(최하위) 참가자들은 ..
[paper] 알고 사면 싸게 살수 있다! 이번주의 아무거나 컨텐츠는 "알고 사면 싸게 살수 있다!"에 관한 여러 특허 / 논문 내용입니다. (이번주는 논문 내용만 축약해서 갑니다.)1. 사용자 행동에 따른 어플리케이션 액션b8ta(베타)는 미국 체혐형 쇼룸 회사로 제조업체의 상품을 전시 및 판매하는 쇼룸 형태로 사용자들의 모든 행동 데이터를 수집하여, 마케팅에 활용하는 회사였다. (잦은 무장 강도로 쇼룸을 거듭 폐쇄 당했으며, 코로나 때 전매장 철수)1-1. 사용자 행동 데이터온라인 쇼핑몰에서 본 상품, 비교한 상품, 구매하지 않은 상품, 물리 매장에서 본 상품, 재방문 여부 같은 행동을 가격 결정에 사용ex) 사용자가 온라인에서 특정 상품을 봤다면 오프라인 매장에서 10% 할인, 경쟁 상품 2개를 비교 중이면 특정 상품을 20% 할인1-2. ..
gh-ost로 무중단 스키마 변경하기 — 500만 건 테이블에서 ALTER TABLE vs gh-ost 직접 비교 실습기 목차왜 gh-ost인가 — 대용량 테이블 ALTER의 문제실습 환경 구성 (Docker Compose)500만 건 데이터 시딩부하 속 일반 ALTER TABLE — INSTANT vs COPYgh-ost로 같은 변경 무중단 수행스로틀링과 인터랙티브 제어cut-over — 최종 테이블 교체의 순간결과 비교와 결론 1. 왜 gh-ost인가 — 대용량 테이블 ALTER의 문제운영 중인 서비스의 수백만~수억 건 테이블에 ALTER TABLE을 실행하면 어떤 일이 벌어질까?MySQL 8.0은 상당수 DDL을 INSTANT/INPLACE로 처리하지만, 컬럼 타입 변경처럼 COPY 알고리즘이 강제되는 변경은 여전히 테이블 전체를 복사하며 쓰기를 막는다. gh-ost는 binlog 기반으로 원본 테이블을 건드리지 않..
gh-ost는 어떻게 무중단으로 스키마를 바꾸는가? https://github.com/github/gh-ost GitHub - github/gh-ost: GitHub's Online Schema-migration Tool for MySQLGitHub's Online Schema-migration Tool for MySQL. Contribute to github/gh-ost development by creating an account on GitHub.github.com 1. 소개gh-ost는 github에서 제작한 MySQL용 트리거리스 온라인 스키마 마이그레이션 솔루션이다. 온라인 스키마 변경 도구들은 모두 비슷한 패턴으로 동작한다. 원본 테이블과 똑같이 생긴 ghost 테이블을 만들고, 비어 있는 그 테이블에 스키마 변경을 먼저 적용한다. 그다음..
[paper] Teaching Claude Why 오늘의 읽을거리 "클로드에세 왜 그런지 가르쳐주기"https://alignment.anthropic.com/2026/teaching-claude-why/1. 문제 제기agentic misalignment(에이전트의 잘못된 방향성)모델이 자기 목표 달성을 위해 해로운 행동을 선택하는것으로1. 자기에게 주어진 목표를 이해함2. 그 목표를 방해하는 장애물을 발견함3. 해로운 행동이 목표 달성에 유리하다고 판단함4. 그 행동이 윤리적으로 문제 있다는 것도 인식함5. 그런데도 실행함이런 패턴을 보이는 경우가 있음. (심지어 모델에 헌법이 적용되어 있는 상태에서도 발생함)예시로는 에이전트에게 '테스트를 모두 통과시켜'라는 목표를 준다면우리가 예측한 행동:- 버그를 찾는다- 코드를 수정한다- 테스트를 추가한다- 실패..