AI & 프롬프트

3일 전

LLM은 어떻게 배우고, 어떻게 대답하는가? - 학습,추론 원리

양실장의 바이브코딩대학 LLM은 어떻게 배우고, 어떻게 대답하는가? ― Training과 Inference를 하나의 흐름으로 이해하기 LLM을 처음 공부하면 Tokenizer, Embedding, Attention, Transformer, Loss, Gradient, Logits, Softmax, KV Cache 같은 수많은 용어가 등장한다. 처음에는 각각 별개의 기술처럼 보인다. 하지만 이 개념들은 하나의 처리 흐름 안에서 서로 연결되어 있다. 가장 먼저 다음 두 문장을 기억하면 된다. Training은 모델의 파라미터를 데이터에 맞게 조정하는 과정이고, Inference는 조정이 끝난 파라미터를 사용해 출력을 계산하는 과정이다. 자동차에 비유하면 다음과 같다. text ┌──────────────────────────────────────┐ │ Training │ │ 자동차를 설계하고 만들고 튜닝하는 과정 │

중년개발자

@loxo

3일 전

AI 시대에 더 중요해진 감각, TPO

AI 시대에 더 중요해진 감각, TPO TPO는 Time(시간), Place(장소), Occasion(상황·목적)의 약자입니다. 원래는 옷차림을 말할 때 자주 쓰였습니다. 결혼식에는 단정하게, 운동할 때는 편하게, 중요한 발표 날에는 신뢰감 있게 입는 것처럼요. 그런데 TPO는 이제 옷에만 적용되는 말이 아닙니다. 우리가 하는 말, 보내는 메시지, SNS에 올리는 글, AI에게 질문하는 방식까지 모두 TPO가 있습니다. 예를 들어 친구에게는 “괜찮아? 힘들었겠다”라는 말이 따뜻한 위로가 됩니다. 하지만 회사의 중요한 업무 채팅방에서 같은 말만 하면, 상대는 답답함을 느낄 수 있습니다. 그곳에서는 “확인했습니다. 오늘 3시까지 수정안을 공유하겠습니다” 처럼 정확한 말이 더 큰 배려가 됩니다. 말은 같아도 시간과 장소, 상황이 달라지면 의미가 달라집니다. 센스 있는 사람은 말을 화려하게 하는 사람이 아니라, 지금 이 순간에 필요한 말을 고를 줄 아는 사람입니다. AI를 사용할 때도

중년개발자

@loxo

5일 전

AI Agent를 배워야 할까, 아니면 그다음을 준비해야 할까?

AI Agent를 배워야 할까, 아니면 그다음을 준비해야 할까 요즘 개발자들에게 가장 많이 들리는 말 중 하나가 있다. “이제는 AI Agent를 알아야 한다.” 불과 얼마 전까지만 해도 코딩을 배우라고 했다. 그다음에는 프롬프트 엔지니어링이 중요하다고 했다. 그리고 지금은 LLM을 연결하고, Tool을 붙이고, MCP와 RAG를 구성하고, 여러 Agent를 조합해 업무를 자동화하는 능력이 새로운 경쟁력으로 이야기된다. 그런데 미국 루이빌대학교의 AI Safety 연구자인 로만 얌폴스키(Roman Yampolskiy) 교수는 조금 다른 질문을 던진다. “그 AI Agent를 만드는 일조차 AI가 더 잘하게 된다면 어떻게 될까?” 그의 전망을 빌리면, 지금 우리가 새로운 전문 영역이라고 생각하는 AI Agent 설계 역시 1~2년 안에 상당 부분 자동화될 가능성이 있다. 이 말은 AI Agent라는 기술이 2년 뒤 사라진다는 뜻이 아니다. 오히려 반대다. AI Agent가 너무

중년개발자

@loxo

6일 전

알렉산더 왕이 본 것은 'AI'가 아니라 'AI의 밥'이었다 - 데이터 라벨링

Scale AI의 성공은 “AI 모델을 만든 회사”라기보다, AI가 배우기 위해 필요한 ‘교과서’를 대규모로 만들어 준 회사라는 점에서 봐야 합니다. 그리고 Alexandr Wang이 대단한 이유도 바로 여기에 있습니다. 그는 19세에 이 문제를 발견하고, 당시에는 사람들이 별로 중요하게 생각하지 않던 데이터 라벨링을 거대한 산업으로 만들었습니다. Scale AI는 2016년 설립됐고, Wang은 2025년 CEO에서 물러나 Meta의 AI 조직으로 이동했습니다. ([포브스][1]) 알렉산더 왕이 본 것은 'AI'가 아니라 'AI의 밥'이었다 당시 AI 스타트업을 보면 대부분 이런 생각이었습니다. “더 좋은 알고리즘을 만들자.” “더 큰 GPU를 사용하자.” “더 좋은 신경망을 만들자.” 그런데 Wang은 조금 다른 질문을 했습니다. “그 AI에게 무엇을 가르칠 것인가?” 이게 핵심입니다. 예를 들어 자율주행차 AI에게 사진 한 장을 보여준다고 해보겠습니다. text 🚗 도로

중년개발자

@loxo

15일 전

Taste Skill, 무엇이고 왜 쓰는가 - AI 티가 나지 않는 프런트엔드 원칙

Taste Skill: 왜 쓰고, 어떻게 시작하는가 Taste Skill은 왜 좋은가 Taste Skill은 디자인 라이브러리가 아니다. React나 Tailwind처럼 앱에 기능을 추가하는 패키지가 아니라, AI 코딩 에이전트에게 “이 프로젝트의 화면을 어떤 순서와 기준으로 설계할지” 알려주는 디자인 지침이다. AI에게 단순히 “세련된 랜딩 페이지를 만들어줘”라고 하면, 다음처럼 익숙하고 뻔한 결과로 흐르기 쉽다. 보라색 또는 메시 그라데이션 큰 가운데 제목 동일한 기능 카드 3개 가짜 대시보드 화면 과한 글로우와 스크롤 효과 Taste는 이런 AI 기본값을 줄이고 아래 순서로 일하도록 유도한다. text 제품과 사용자 이해 ↓ 디자인 방향 선언 ↓ 레이아웃 · 움직임 · 정보량 결정 ↓ 구현 ↓ 모바일 · 접근성 · 반복 패턴 점검 즉, Taste의 핵심 가치는 “더 화려하게 만들기”가 아니라, 제품에 맞지 않는 디자인 결정을 초기에 막는 것이다. Taste는 다음에 특히

중년개발자

@loxo

18일 전

2030, 6G가 시작되면 세상은 어떻게 달라질까 - AI Agent 개발자만 살아남는다.

앞으로 5년 정도 이면 개발자의 필요성은 더 줄어들것이고 AI Agent 개발 방향으로 모든 개발 트랜드가 변할것 같습니다. 먼저 한 문장으로 이해하는 6G 5G가 “사람과 기계를 연결하는 초고속 통신”이었다면, 6G는 “AI가 현실 세계를 보고, 이해하고, 판단하고, 행동하도록 연결하는 지능형 신경망”에 가깝습니다. 이 차이가 가장 중요합니다. text 1G 사람 ───── 사람 전화 2G 사람 ───── 사람 문자 3G 사람 ───── 인터넷 모바일 인터넷 4G 사람 ───── 인터넷 ───── 콘텐츠 스마트폰 / 유튜브 / SNS 5G 사람 ───── 기계 ───── 사물 IoT / 자율주행 / 스마트팩토리 6G 사람 ───── AI ───── 기계 │ │ │ └──── 현실 세계 ────┘ "연결" → "인지" → "판단" → "행동" 즉 6G의 본질은 속도 증가가 아니라 네트워크의 역할 변화입니다. 왜 6G가 필요한가? 지금의 인터넷은 기본적으로 이런 구조입니다. text

중년개발자

@loxo

19일 전

AI 개발자를 위한 Langfuse 입문부터 실전까지

현재 기준으로 Langfuse는 v4가 정식 배포되어 있고, OpenTelemetry 기반의 LLM/Agent Observability, Prompt Management, Evaluation, Dataset/Experiment 등을 하나의 플랫폼에서 제공합니다. oai_citation:0‡Langfuse AI 개발자를 위한 Langfuse 입문부터 실전까지 대상: LLM/AI 개발을 처음 시작하는 개발자 목표: Langfuse를 설치하고, LLM 호출을 추적하고, 비용·성능·품질을 분석하고, 프롬프트와 모델을 개선하는 것까지 이해한다. Langfuse가 도대체 왜 필요한가? AI 개발을 처음 하면 보통 이런 코드부터 시작합니다. text 사용자 질문 ↓ LLM 호출 ↓ LLM 답변 ↓ 사용자에게 출력 예를 들어: text 사용자: "대한민국의 수도는?" AI: "서울입니다." 처음에는 이것만으로 충분합니다. 그런데 실제 서비스를 만들면 문제가 생깁니다. 1.1 AI가 갑자기 이상한

중년개발자

@loxo

20일 전

AI에게 왜 ‘클로드’라는 이름을 붙였을까

AI에게 왜 ‘클로드’라는 이름을 붙였을까 요즘 개발자라면 한 번쯤 궁금해진다. “그런데 왜 이름이 클로드(Claude)일까?” ChatGPT, Gemini와 달리 Claude는 어딘가 사람 이름 같다. 그런데 그 이름을 따라가 보면 AI의 역사와 묘하게 연결되는 한 사람이 나온다. 클로드 섀넌(Claude Shannon). 섀넌은 정보이론을 만든 수학자이자 전기공학자다. 오늘날 문자와 사진, 음악과 영상까지 0과 1의 디지털 정보로 다룰 수 있는 세상의 기초를 놓은 인물이다. 그런데 이 천재 수학자는 생각보다 꽤 엉뚱한 사람이었다. 외발자전거를 타며 저글링을 했고, 어느 날에는 작은 기계 생쥐를 만들었다. 이름은 그리스 신화에서 미궁을 빠져나온 영웅의 이름을 딴 테세우스(Theseus). 생쥐를 미로에 넣으면 처음에는 이리저리 헤맨다. 막다른 길을 만나면 돌아오고, 다시 다른 길을 선택한다. 그런데 한 번 미로를 통과한 뒤 다시 넣으면 이야기가 달라진다. 이미 얻은 정보를 이용해

중년개발자

@loxo

28일 전

직접 실행하는 AI Agent 개발 가이드(샘플소스) - 02

직접 실행하는 AI Agent 개발 가이드 이 문서는 Client → Agent Server → LiteLLM → vLLM → LLM 구조를 실제로 실행할 수 있는 최소 예제로 설명합니다. 주문번호를 조회하는 작은 Agent를 통해 모델 호출, 도구 호출, 안전한 서버 통제의 원리를 살펴봅니다. 전체 구조와 역할 mermaid flowchart LR U[사용자] --> C[Client: 웹 화면] C --> A[Agent Server: FastAPI] A --> L[LiteLLM: 모델 연결 통합] L --> V[vLLM: GPU 추론 서버] V --> M[LLM: Qwen 등] A --> T[Tool: 주문 조회] | 구성 요소 | 역할 | 이 예제의 구현 | |---|---|---| | Client | 질문을 보내고 답을 보여주는 사용자 화면 | app.py의 간단한 HTML | | Agent Server | 규칙·권한·실행 순서와 도구 실행을 통제 | FastAPI와

중년개발자

@loxo

28일 전

AI Agent 개발 아키텍처: Client부터 LiteLLM, vLLM까지 - 01

AI Agent 개발 아키텍처: Client부터 LiteLLM, vLLM까지 AI Agent 서비스는 사용자의 요청을 받아 AI가 판단하고 도구를 실행한 뒤, 자연스러운 답변을 돌려주는 시스템입니다. 간단히 말하면 다음 흐름입니다. mermaid flowchart LR U["사용자"] --> C["Client 웹·모바일·사내 시스템"] C --> A["Agent API / Agent Server"] A --> L["LiteLLM 모델 연결·통합 계층"] L --> V["vLLM 모델 추론 서버"] V --> M["LLM 모델 예: Llama 계열"] A --> T["Tools DB·검색·업무 API·코드 실행"] A --> D["데이터 계층 대화 기록·문서·벡터 DB"] 전체 시퀀스 흐름 사용자가 Client에서 질문을 보냅니다. 예: “이번 달 매출을 요약하고 감소 원인을 알려줘.” Client는 Agent API로 요청을 전달합니다.

중년개발자

@loxo

프롬프트 기법

약 1개월 전

프로그램 개발 제안서 작성용 마스터 프롬프트

프로그램 개발 제안서 작성용 마스터 프롬프트 아래 프롬프트는 단순히 “무엇을 개발하겠다”는 기능 설명서가 아니라, 고객이 문제의 심각성과 개발 투자 가치를 이해하고 신뢰를 바탕으로 계약을 결정하도록 만드는 전문 제안서 작성용입니다. text 당신은 15년 이상의 경험을 가진 IT 컨설턴트이자 소프트웨어 아키텍트, 기술 제안서 작성 전문가다. 내가 제공하는 프로젝트 정보를 바탕으로 고객이 다음과 같이 판단할 수 있는 전문적인 프로그램 개발 제안서를 작성하라. 우리가 처한 문제를 정확히 이해하고 있다. 제안한 개발 범위와 해결 방법이 현실적이다. 개발 비용보다 얻을 수 있는 사업적 가치가 크다. 일정, 품질, 보안, 운영 위험이 체계적으로 관리된다. 이 프로젝트는 해당 개발자 또는 개발사에 맡기는 것이 안전하다. 제안서는 개발 기술을 과시하는 문서가 아니라 고객의 문제, 사업 목표, 기대 성과를 중심으로 작성한다. ──────────────────────────── [프로젝트 입력

중년개발자

@loxo