작당모위

요즘 AI API로 이것저것 시도를 해보는 중인데, 일정하게 생성할 자료가 있어서 o1을 대충 2500번 정도 호출했다. 뭐 얼마나 나오겠어? 했는데 그 결과는 이러했다. 다른 호출도 포함이지만 90%는 o1 요금이었다.1회 호출당 대충 180원정도 되는 것 같다. 이래서 선생님들이 프롬프트 길이가 중요하다고 그렇게 강조를 하였던 것이었다.

백도 황도지사 2025. 4. 21. 17:37

결론: 없다. (아직은)'AI에게 거대한 일을 부탁하는 방법이 언젠간 나올까?' 내가 생각하기에 현재 AI의 가장 큰 한계는 한 번에 주고 받을 수 있는 토큰 수에 제한이 있는 것이다.연속적인 일을 처리하려면 이전 대화의 데이터를 같이 전달해야 하는데, 요청이 누적되다보면 어느 순간 토큰 수 제한에 걸리고 만다.이전 대화를 적절히 요약하여 전달하면 되지만, 그럴수록 이전 대화에 대한 정보는 흐려진다. 비슷한 예로 AI에게 "책 한 권 분량의 텍스트를 줄테니 한 줄 요약해줘."라고 요청할 수 없다. (요청은 해도 되지만 바로 에러가 돌아온다)책의 텍스트를 적절히 쪼개서(사람이 해야 한다) 각각을 요약한 후에, 그것을 다시 합쳐서, 합쳤는데도 길면 그것을 다시 또 적절히 쪼개서(사람이 해야 한다) AI가 한..

백도 황도지사 2025. 4. 10. 14:27

1. 원래 하려던 것  Azure에 RAG를 짜잔하고 구성하려고 보니 벡터 DB와 검색 기능이 필요. 2. 하지 못한 것과 이유  Azure Cognitive Search를 구성하려는데 비용이 생각보다 너무 비쌈 ($264/월)  선생님 저 그냥 테스트할 건데 어떻게 싸게 안 될까요... 3. 대안   가. Amazon OpenSearch Service => 간편하긴 하나 역시 싸진 않음   나. FAISS => EC2 같은 데 올려서 사용할 수 있으나 그걸 또 언제 하나. 로컬 테스트하기는 좋아 보임.   다. SUPABASE => 마침 또 수파베이스를 쓰고 있으니 찰떡일세. 4. AI가 써준 초안  요즘 벡터 검색(Vector Search)이 핫한 키워드로 떠오르고 있습니다. OpenAI, Huggi..

백도 황도지사 2025. 4. 9. 17:56

결론부터 말하면, 아주 오해는 아니다.하지만 모델의 엔진은 학습시킬 수 없다.엔진에 전달된 정보는 휘발된다. 엔진은 실시간으로 무한 증식하지 않는다. 계단식으로 비정기적인 업데이트가 이루어진다.AI 엔진을 커스텀하게 학습시켰다는 것은 결국 프롬프트를 통해 엔진에게 양질의 정보를 전달했다는 것이다.현안을 물어보자. 1. 오늘 한국의 대통령이 파면되었다는 사실을 알고 있는지 사용중인 LLM 기반 대화형 인터페이스(ChatGPT 등)를 통해 물어보자. 대체로 정확하게 대답한다. (4월 4일인데 3일이라고 나온 건 미국 날짜라 그런 게 아닐까 싶다) 2. 같은 질문을 API를 통해서 해보자. API는 엔진에게 직접 물어보는 것이고, 데이터가 없다는 답을 보내왔다. 3. 파면 관련 기사를 하나 복사해서 다음과 같..

백도 황도지사 2025. 4. 4. 17:10

하려던 것- Azure의 OpenAI API를 이용한 gpt-4o 호출.- Javascript 환경에서 기본 호출만 해보는 것이 목표 해결 전 마지막 상태- Azure 가입. openai 배포. Azure AI Foundry에서 gpt-4o 배포 완료.- 플레이그라운드 잘 됨 확인. 문제- 그런데 예제 코드를 주워다가 API를 호출하면 계속해서 404에러가 나를 반겼다.  "Resource not found"  예제코드도, 그 어떤 AI도 해결해주지 못했다.  뭐가 잘못됐는지 알려주는 게 에러 코드가 할일 아닌가?  AI가 해결하지 못했으니, 구글 검색을 했다. 정답- 답은 여기에 있다. 내 글의 결론은 맨 아래에 있다.   알려진 javascript 예제코드는 이렇다. import { AzureOpen..

백도 황도지사 2025. 3. 28. 17:45

안녕하십니까, 설국 열차장입니다. 여러분은 "특성화고등학교" (a.k.a 공고)를  아시나요?아시는 분들도 계실 테고, 이름만 들어보신 분들도 계실 겁니다.혹시 궁금하진 않으셨나요? 저기는 어떤 걸 배울까, 저기는 졸업하고 뭐 하지? "특성화고등학교" 출신 설국 열차장이 시원하게 알려드리겠습니다.  특성화고등학교 입문중학교 3학년 마지막 기말고사가 끝나고 어떤 고등학교를 갈 것인지 고민 중에 있었습니다.대부분 집 근처에 있는 인문계 고등학교를 지원했고 저도 그리하려 했지만,공부에 자신도 없었고, 뭔가 재미가 없어 보여서(?) 망설이고 있었습니다. 고민하던 도중, 마침 주변 다른 특성화고등학교에서 본교를 돌며 홍보를 하는 것을 듣게 됩니다. "고등학교 졸업하고 바로 취업이 가능하다." "일반 교과목이 아닌..

설국 열차장 2024. 6. 9. 02:46

2. 봇들공원 간달프 - 봇들공원엔 전설이 있어.- 뭔데?- 하지만 난 전설 같은 건 믿지 않아.루엔(Arwen)은 오른손으로 새뫄(Samwise)의 뺨을 어루만지듯이 밀어냈다. 때린 건 아니지만 3초 간 빈정이 상할 정도의 기분 나쁜 접촉이었다. 장난치지 말고. 새뫄는 돌아간 고개를 바로 돌리지 않고 스스로를 진정시켰다. 빨리 말해. 고개를 돌려 루엔을 바라봤다.- 봇들공원에 도사가 있대.루엔이 '스읍' 소리를 내며 왼손을 들었다. 새뫄는 오른손을 들어 루엔의 손목을 붙잡았다. - 때리긴 일러. 이건 진짜야. 해질무렵 봇들공원 산책로를 돌다보면 만날 수 있대. 아주 용한 할매래.루엔은 들어나보자는 표정으로 새뫄를 째려봤다.- 용하면 뭐? 어떻게 용한데? - 딱 보자마자 막 신상 줄줄 읊는 사람들 있잖아..

백도 황도지사 2024. 5. 25. 17:29

공포는 나를 해하려는 무언가를 두려워하는 감정이다. 무서운 이야기 혹은 영화나 드라마는 나를 해할 수 없다. 그럼에도 그것들을 공포물이라 부르는 것은 간접적으로 나에게 두려움을 주기 때문이다. 실제로 일어나는 것이 불가능하다고 머리로는 이해할 수 있어도, 그런 (예를 들면, 천장에 귀신이 매달려서 머리를 말려달라하는) 일이 세상에서 딱 한 번 일어났는데 그게 하필 나에게 일어날 수 있다는 느낌을 주는 것이다. 이것은 훈련을 통해 어느 정도 통제할 수 있다. (통제되지 않는 공포물을 만드는 것-선을 넘지 않는 범위에서-은 창작자의 역량에 달려 있다.) 이런 간접적인 두려움은 모르는 것에서 온다고 해야 할까, 아는 것에서 온다고 해야 할까. 차량 블랙박스 영상을 리뷰해주는 프로그램을 보면 다양한 사고 장면이..

백도 황도지사 2024. 5. 7. 13:23