1 day ago[액션파워LAB] GPT-1(Generative Pre-Training) 알아보기이번 기술 블로그에서는 저번에 알아본 Transformer에 이어서 Large Language Model (LLM)에서 가장 핫한 토픽인 ChatGPT의 초창기 모델인 GPT모델이 어떻게 만들어졌는지에 대해서 알아보고자 합니다. GPT(Generative Pre-Training) GPT-1는 OpenAI에서 2018년에 발표한 “Improving Language u …7 min read7 min read
May 15[액션파워 LAB] 트랜스포머(Transformer) 알아보기이번 기술 블로그에서는 최근 Large Language Model (LLM)과 더불어 이미지 분야, 시계열 분야 등, 다양한 도메인에서 backbone 모델로써 가장 많이 활용되는 트랜스포머 모델에 대해서 알아보고자 합니다. 트랜스포머(Transformer) 트랜스포머는 2017년도 구글에서 발표한 “Attention is all you nee …8 min read8 min read
Mar 15[개발스토리] 랜딩페이지 성능 개선안녕하세요 👋 액션파워 플랫폼그룹 프론트엔드 개발팀입니다. 오늘은 다글로 랜딩 페이지를 개발하며 웹 성능을 개선한 경험을 공유해보려 합니다. 문제 상황 개발 환경에서는 성능 문제를 느끼지 못했으나, staging 배포 후 확인을 해보니 초기 로딩 속도가 11초로 매우 느린 이슈가 발생하였습니다. 원인 1. 이미지 파일의 위치 첫 번째 성능 저하 원인 …12 min read12 min read
Feb 10[액션파워 LAB] 이미지에서 이상 영역 탐지(Visual Anomaly Detection)는 어떻게 할까?들어가기 전에 본 포스트는 액션파워에서 Research 발표를 기반으로 합니다. 요약 Visual Anomaly Detection이란? 이미지에서 이상한 부분을 찾는 방법 대표적인 방법은? - 이미지의 자체에서 특징을 추출하는 방법 - CNN Feature에서 특징을 추출하는 방법 - 정상 이미지를 생성한 후 비교하는 방법 - CNN Fe …17 min read17 min read
Jan 30[액션파워 LAB] An Empirical Study of Example Forgetting during Deep Neural Network Learning (paper review)2019 ICLR에서 혜성(?) 같이 등장한 논문으로, training dynamics를 이용하여 example difficulty를 측정하는 첫 논문입니다. 국내에서는 많이 소개가 된 것 같지 않아서 액션파워에서 간단하게 공유드려 보고자 합니다. 1. Introduction Continual learning task에서 neural netwo …10 min read10 min read
Dec 16, 2022[AI 이야기] RNN과 LSTM 알아보기인공지능 공부를 막 시작하는 분들이라면, 한번쯤은 다들 들어보셨을 RNN과 LSTM에 대해서 자세히 다뤄보도록 하겠습니다. RNN(Recurrent Neural Network) 인공지능 분야에서는 두개의 RNN이 있습니다. Recursive Neural Network와 Recurrent Neural Network인데요. 이 글에서는 Recurrent Neural Net …AI5 min readAI5 min read
Nov 22, 2022[AI 이야기] 국제전산언어학술대회 COLING 2022 방문기✅ 1️분 만에 본문 내용 알아보기 (feat. 다글로 요약 기능) 경주에서 개최된 COLING 2022는 액션파워 연구원으로서 참가하는 첫 in-person 학회로, COLING 학회가 낯선 분들을 위해 팁과 사진들을 공유하려 참가 후기를 적어준다. 리서치에 매몰되어 SOTA를 쫒다 보면 제품 서비스 관점의 고민들을 잊기 쉽지만 Industry 쪽 연구진들은 특히 서비스 late …AI7 min readAI7 min read
Nov 4, 2022[AI 맛보기] 동영상 설명 및 요약(Video Captioning/Explaining)Video Explaining 이란? 주어진 영상의 내용을 한 눈에 알아볼 수 있도록, 정리/요약/분류해주는 모든 방법들을 의미합니다. 주로 사용되는 방식은 다음과 같습니다. 동영상 전체 내용을 요약한 하나의 문장을 생성하는 방식 미리 지정된 카테고리 중 동영상과 가장 관련성이 높은 하나를 선택하는 방식AI4 min readAI4 min read
Oct 25, 2022[AI 이야기] AI학회 리스트좋은 논문들을 찾아보는 것 뿐만 아니라, 투고를 고민하고 계시는 능력자 분들을 위해, 수많은 AI 학회들 중 각 분야 별 상위 학회들을 모아보았습니다. 각 분야 별 선정 기준은 Google Scholar에서 보여지고 있는 h5-index 순위를 기준으로 하였습니다.AI7 min readAI7 min read
Oct 11, 2022[액션파워 LAB] pytorch Conv2d parameter 파헤치기AI 개발자분들은 매일 방대한 크기의 라이브러리를 살펴보고, 또 그 속에서 수많은 함수들을 마주합니다. 그러다 보면 이 함수의 각 파라미터가 어떤 역할을 하는지 일일이 알기 어려울 때도 있고, 힘들게 직접 구현해 놓은 기능이 이미 지원되던 기능인 것을 알고 허탈할 때도 많습니다. 😢 AI 분야에 막 입문하시는 분들 …AI12 min readAI12 min read