전체 글 103

RAG 논문 리뷰

해결하고 싶었던 문제 많은 양의 "지식"을 필요로하는 공개 도메인의 문제에 대한 답변하기 를 수행하기 외부 지식 참고를 해야한다. 자유도 높은 답변을 생성해야한다. RAG가 신기한 점 1. 외부 지식()을 사용하여 직접적으로 "지식"을 디코딩(지식을 저장하고 질문에 맞는 답을 찾아 생성)할 때 이용하는 방법을 제시 2. Retriever-based와 Generator-based의 프레임워크를 사용해서 knowledge intensive task와 같은 NLP task를 처음으로 해결한 논문 3. end-to-end 학습이 가능하다 RAG 모델 구조의 특징 1. Retriever-and-Reader -> Retriever-and-Generator 로 바뀌면서 정답이 없는 경우에도 답변을 생성할 수 있는 구..

시간복잡도 공간복잡도 Big-O

Big-O 표기법이란? 알고리즘의 효율성을 평가할 때 가장 중요한 개념 중 하나가 바로 'Big-O 표기법'입니다. 알고리즘이 문제를 해결하는 데 얼마나 빠른지, 즉 실행 시간이 어떻게 증가하는지를 분류하는 방법입니다. 또한, 알고리즘이 실행될 때 필요한 메모리 양이 어떻게 증가하는지를 나타내는 데에도 사용됩니다. 시간복잡도(Time Complexity) 시간복잡도는 알고리즘이 문제를 해결하는 데 걸리는 단계의 수 또는 연산의 수를 나타냅니다. 예를 들어, 리스트의 모든 요소를 한 번씩만 확인하는 선형 검색 알고리즘은 시간복잡도가 O(n)으로 표현됩니다. ex) 예제 1 - 선형 검색def linear_search(arr, x): for i in range(len(arr)): if arr[i] == x:..

네이버 클라우드 서버 구축 SSH putty, pycharm, vscode 외부 연결하기

1. 네이버 클라우드에서 compact로 서버 하나 만들었다. 공용 IP를 만들어서 2. pem 키를 받았고, 비밀번호도 안다. 아래 링크대로 진행함 [웹서버 구축하기] (1) 네이버 클라우드 플랫폼 - Server 생성 (velog.io) [웹서버 구축하기] (1) 네이버 클라우드 플랫폼 - Server 생성 본 포스팅은 개인의 학습 증진을 위하여 작성되었습니다. 구축 과정은 다음과 같습니다. 이번 게시글은 네이버 클라우드 플랫폼을 통해 서버를 생성하고, 연결을 허용하고, 최종적으로 리눅스 velog.io putty로 실행했을 때는 서버 접속이 가능했다. 그런데 pycharm으로 ssh 외부 접속을 시도했는데 다음과 같은 곳에서 오류가 떴다. 공간이 없다고..? 내 C드라이브 공간이 100GB넘게 남았..

해시 테이블

1. 해시 구조 Key에 Value를 저장하는 데이터 구조 Hash Table size만큼의 배열로 생성해서 사용 파이썬 Dictionary로 사용 2. 용어 정리 Hash : 임의 값을 고정 길이로 바꾸는 것 Hash Table : 키 값의 연산에 의해 직접 접근이 가능한 데이터 구조 Hashing function : Key로 데이터 위치를 찾을 수 있는 함수 Hash Value : Key르 hashing function으로 연산해서 찾을 수 있는 값 Slot : 한 개의 데이터를 저장할 수 있는 공간 Hash Table에 Value 저장하고 읽어보기 def storage_data(data, value): key = ord(data[0]) hash_address = hash_func(key) hash_..

파이썬 알고리즘 인터뷰 해시 문제

해시맵 디자인 1) 개별 체이닝 방식을 이용한 해시 테이블 구현 class MyHashMap : def __init__(self, key = None, value = None): self.size = self.table = colections.defaultdict(ListNode) def put(self, key:int, value: int) -> None: if self.table[index].value is None: # value로 해야 존재하지 않는 인덱스 조회에 대한 에러 발생 X self.table[index] = ListNode(key, value) return #해시 충돌 발생 경우 chaning으로 풀기 #인덱스에 노드가 존재하는 경우 연결 리스트로 처리한다 while self.table..

페이퍼 프리뷰의 리뷰 KoLLaVA : Korean Large Language and Vision Assistant (Visual Instruction Tuning)

KoLLaVA : tabtoyou/KoLLaVA: KoLLaVA: Korean Large Language-and-Vision Assistant (feat.LLaVA) (github.com) GitHub - tabtoyou/KoLLaVA: KoLLaVA: Korean Large Language-and-Vision Assistant (feat.LLaVA) KoLLaVA: Korean Large Language-and-Vision Assistant (feat.LLaVA) - GitHub - tabtoyou/KoLLaVA: KoLLaVA: Korean Large Language-and-Vision Assistant (feat.LLaVA) github.com Paper Preview of [논문 리뷰] LLaVA..