Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[20220109] Weekly AI ArXiv 만담 - 35회차 #35

Closed
jungwoo-ha opened this issue Dec 21, 2021 · 10 comments
Closed

[20220109] Weekly AI ArXiv 만담 - 35회차 #35

jungwoo-ha opened this issue Dec 21, 2021 · 10 comments

Comments

@jungwoo-ha
Copy link
Owner

jungwoo-ha commented Dec 21, 2021

@jungwoo-ha jungwoo-ha changed the title [20211226] Weekly AI ArXiv 만담 - 34회차 [20220109] Weekly AI ArXiv 만담 - 35회차 Dec 25, 2021
@sujungleeml
Copy link

sujungleeml commented Jan 5, 2022

한달에 한번은 발표 하는게 목표에요 'ㅅ'...!
제가 잘못알고 있는 부분 수정해주시거나 추가 설명 해주시는건 언제나 환영합니다~!

  1. Medical Article
  • Development and validation of an artificial neural network algorithm to predict mortality and admission to hospital for heart failure after myocardial infarction: a nationwide population-based study

  • IF 24.519 인 란셋 디지털 헬스에서 01JAN2022 에 나온 따끈따끈한 논문입니다.

  • Summary
    summary_medpr03

  • 방법적으로는 다소 올드하고 평범. backpropagation algorithm 사용했다고 하고.. 논문에는 hyperparameter tuning 이나 모델에 대한 디테일한 설명도 없음. appendix 에 gradient boosting, random forest, logistic regression 을 사용했다고 언급되어 있지만 자세한 내용은 없음.

  • 심지어 STATA 사용

  • 데이터가 깡패

  • Model : SWEDHEART(The swedish Web system for Enhancement and Development for Evidence-based care in Heart disease Evaluated According to Recommended Therapies) : n=139,288

  • External validation : WDHR(Western Denmark Heart Registry) n = 30,971

  • 모델은 feature 21 개 사용한 것과 84개 사용한 것 2가지로 개발

  • 기존의 risk and mortality score 인 GRACE score 보다 우수함.

역시 데이터가..중요하다...

@ghlee0304
Copy link

ghlee0304 commented Jan 8, 2022

  • Arxiv
    • IQDUBBING: Prosody modeling based on discrete self-supervised speech representation for expressive voice conversion

      • Summary
        샘플 URL : https://wblgers.github.io/IQDUBBING-VC.github.io/
        expressive한 voice conversion을 위하여 prosody 추출 시 content와 speaker정보를 제거하는데 초점을 맞추고 있음
      • Problem
        prosody는 content와 speaker 등의 정보와 결합되어 분리 모델링하기 어려움
      • Proposed method
        • discrete self-supervised speech representation (DSSR) 사용
          IQDUBBING PROSODY MODELING BASED ON DISCRETE SELF-SUPERVISED SPEECH1
        • VQ-Wav2Vec model을 이용하여 prosody vector를 추출
        • prosody외에 남아 있는 정보를 제거하기 위한 filter 사용
          IQDUBBING PROSODY MODELING BASED ON DISCRETE SELF-SUPERVISED SPEECH3
      • Results
        IQDUBBING PROSODY MODELING BASED ON DISCRETE SELF-SUPERVISED SPEECH4
    • Multi-speaker Multi-style Text-to-speech Synthesis With Single-speaker Single-style Training Data Scenarios

      • Summary
        샘플 URL: https://qicongxie.github.io/SRM2TTS/
        multi-speaker multi-style 데이터 셋으로부터 style과 timbre를 모델링하여 target speaker의 음색으로 다양한 스타일의 expressive한 speech를 생성하고 prosody를 조절 가능하게 만든 위한 모델 제안
      • Problem
        target speaker에게 다양한 style을 전이(transfer)시키려면 source speaker과 다양한 스타일로 녹음이 되어 있어야 하지만, 이렇게 녹음하는 것이 어려움
      • Proposed method
        • Encoder-decoder framework : Tracotron2 모델을 수정하여 사용 (FastSpeech2 + Tacotron2 느낌)
          • speaker information은 스타일과 상관없는 음색(timbre)과 관련이 있기 때문에 global information을 의미
          • speaking style information은 prosody와 관련이 있고 local한 information을 의미
            MULTI-SPEAKER MULTI-STYLE TEXT-TO-SPEECH SYNTHESIS WITH1
        • Text based prosody module
          • prosody predictor는 style ID와 text encoder output을 입력으로 prosody feature를 생성
          • multi-scale prosody encoder는 prosody feature를 입력으로 prosody representation을 생성
          • prosody feature로는 pitch, duration, energy를 사용
      • Results
        MULTI-SPEAKER MULTI-STYLE TEXT-TO-SPEECH SYNTHESIS WITH3

@nick-jhlee
Copy link

nick-jhlee commented Jan 9, 2022

@nick-jhlee
Copy link

nick-jhlee commented Jan 9, 2022

(많아 보이지만 쓱 지나가면 금방이에요 ㅎㅎ)

@nick-jhlee
Copy link

cf. Pedro Domingos의 twitter war
"Half of the female STEM faculty in the US were hired over more qualified men." - Pedro Domingos (01/01/2022)

@kimyoungdo0122
Copy link

kimyoungdo0122 commented Jan 9, 2022

@hollobit
Copy link

hollobit commented Jan 9, 2022

AI 의료기기 성능평가 국제표준화 시동

  • https://search.daum.net/search?w=tot&DA=23A&rtmaxcoll=NNS&q=AI+%EC%9D%98%EB%A3%8C%EA%B8%B0%EA%B8%B0
  • https://www.iec.ch/dyn/www/f?p=103:14:715051018849207::::FSP_ORG_ID,FSP_LANG_ID:28235,25
  • 한국 제안으로 AI/ML-MD에 대한 performance evaluation process 최초 표준 개발 시작 (2025년 제정 예상)
  • 30개국 만장일치로 IEC TC62 산하에 PT8 신설과 의장단 수임 (12/1). kickoff 회의 개최 (12/14). 1월19일부터 격주로 회의 예정.
  • AI/ML 시스템에 대한 품질 모델, 신뢰성, 데이터, 테스팅 등등에 대해 여러 표준화 기구에서 경쟁적인 표준 개발이 진행 중임. (점점 영역에 대해 정리가 되는 중)
  • AI/ML-MD의 quality model에서 가장 중요한 것은 performance이며, performance에 대한 체계적 평가 절차 표준
  • performance에 대해 3 pillar 모델로 평가
  • 2월에 Testing for AI systems 표준 개발이 시작되면, 중요한 연계 체계도 만들어질 것으로 기대
  • 의료 영역만이 아니라 다른 도메인에도 적용 가능한 표준. 관심 있는 분들은 언제든 [email protected]로 연락주세요

인공지능을 위한 측정과 평가체계

포브스의 2022년 10가지 AI 예측

  1. 언어 AI가 중심 무대가 될 것이며, 다른 어떤 AI 범주보다 NLP에서 더 많은 스타트업이 자금을 지원받을 것
  2. Databricks, DataRobot 및 Scale AI가 모두 공개됨
  3. 적어도 3개의 기후 AI 스타트업이 유니콘이 될 것
  4. 동영상용으로 강력하고 새로운 AI 도구가 구축됨
  5. 10조 개 이상의 매개변수가 있는 NLP 모델이 구축됨
  6. AI 분야에서 미국과 중국 행위자들 사이의 협력과 투자는 거의 중단됨
  7. 다수의 대규모 클라우드/데이터 플랫폼이 새로운 합성 데이터 이니셔티브를 발표할 것
  8. 토론토는 실리콘 밸리와 중국을 제외한 세계에서 가장 중요한 AI 허브로 자리매김할 것
  9. "책임 있는 AI(Responsible AI)"는 모호한 포괄 용어에서 운영 가능한 일련의 기업 관행으로 이동하기 시작할 것
  10. 강화 학습은 점점 더 중요하고 영향력 있는 AI 패러다임이 될 것

Technology Leaders Share 10 AI Predictions for 2022

  1. The conversation around data for AI will be prioritized
  2. Companies will demand energy-efficient AI
  3. AI and deep learning go mainstream
  4. AI-Generated Threats Will No Longer Be Hype
  5. AI will move from theoretical to practical, opening up new opportunities for developers
  6. Quantum AI environments will emerge
  7. With their hyper-focus on innovation and speed, IT teams will lean more heavily on automation to modernize code
  8. AI will become more accessible to developers
  9. The use of AI will increase in software development
  10. The coming year will see a shift from point solutions to a suite of AI-enabled business applications built upon a common platform

GPT-3 Demo

  • https://gpt3demo.com/
  • 몇일만에 200개에서 300개로 늘었네요. 왠지 상징적인 사이트가 될듯한 느낌적 느낌

@priancho
Copy link

priancho commented Jan 9, 2022

Diffusion model에 대한 fast inference 관련해서 아래 논문을 본 기억이 있어서 공유합니다.
https://arxiv.org/pdf/2110.02037.pdf

@kwonminki
Copy link

kwonminki commented Jan 9, 2022

아까 말씀드린 논문은 denosing deffusion gan으로 nvidia에서 이번에 낸 논문입니다.
https://nvlabs.github.io/denoising-diffusion-gan/
https://arxiv.org/abs/2112.07804
SmartSelect_20220109-224917_Xodo Docs

@nick-jhlee
Copy link

nick-jhlee commented Jan 9, 2022

대선이 다가왔습니다..!

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

8 participants