CS 전공/책, 자료들2015. 12. 8. 10:03

http://www.redbook.io/

Readings in Database Systems는 M. Stonebraker가 87년부터 정리해왔던 DB 분야 중요 논문 모음집으로,

 일명 레드북으로 불려지는, 대학원 수업 보조재로 주로 활용되는 책입니다. 

이번에 새로 5th ed.이 나왔네요.

새 집필진에는 Stanford에 새로 합류한 tx 분야의 신성 Peter Bailis 박사가 참여

(라 쓰고, 잡일좀 하라고  두 대가들한테 쪼여 참여한듯한...)

그런데 방식이 좀 바뀌었네요. 

예전에는 논문 묶음으로 보면 되었는데, 간단하게 요약식으로... 

그나저나 집필진들끼리도 의견 통일이 안된 글이 있다는데... 




Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2012. 10. 23. 14:59

이번 ACM CIKM'12에서 발표될 HadoopXML이라 명명한 저희 시스템입니다.

HadoopXML은 대량의 XML 데이터에 대한 다중 XML 질의 처리를 수행하기 위한 Hadoop 기반의 시스템입니다.



XML은 루트 엘리먼트를 루트로 하는 labeled, ordered tree라는 데이터 모델이라는 특성이 있고,

이 XML 문서에 대한 질의는 가지 패턴 질의(twig pattern query)라는 특성이 있습니다.

예를 들어 //A//B[C]//D와 같은 질의는 A밑에 B 엘리먼트가 있고, 이 B 엘리먼트는

C를 포함하여야 하며, D 엘리먼트는 이러한 B 엘리먼트 밑에 존재하여야 한다는 

구조 정보를 기술합니다.


가장 간단한 XML 질의 처리 방법은 XML을 트리 형태(DOM)로 모델링하고 이를 모두 메모리에 올려둔 후 트리의 노드 순회를 통해서 이러한 패턴을 찾는 방법입니다. 하지만, 이런 식의 방법은 트리 내 모든 노드를 순회하여야 하는 문제점이 있지요.

해서 XML 분야에서는 labeling scheme을 이용해서 각 엘리먼트에 레이블을 부여하고, 이들의 레이블 값을 비교함으로써 이러한 패턴 검사를 수행하게 합니다. 예를 들어, A(1:150, 1) B(3:5, 2)

로 레이블된 두 엘리먼트 A, B가 있는 경우 두 값의 interval 값(1:150 vs. 3:5을 비교하고, 어느 한쪽이 다른 쪽의 interval을 포함하는지 등을 검사합니다.  이러한 labeling 기법을 이용하여 기존의 질의 처리를 위한 트리 순회를 레이블 값의 비교를 통한 조인 연산으로 변경한 거지요.


최근의 XML 문서의 크기는 굉장히 큽니다.

예를 들어서 UniProtKB라고 하는 단백질 정보와 단백질간의 관련 정보를 기술하는 XML 문서는 파일 하나의 크기가 108GB 를 넘습니다. 데이터 로깅에서도 Log4j 등을 이용해서 로그 포맷으로 XML이 사용될 수 있을텐데, 이런 경우에도 생성되는 XML 문서의 크기는 매우 크게 되지요.

결국엔 기존의 XML pub/sub 시스템이나 단일 노드에서 동작하는 XML DBMS로는 처리하기가 용이하지 못하게 됩니다. 실제로 저희가 대표적인 open-source XML DBMS인 eXist나 BaseX로 테스트한 경우나 XML pub/sub system인 YFilter로 테스트 한 결과도 그랬습니다.


HadoopXML은 이렇게 크기가 큰 XML 파일을 이들에 대한 질의 처리를 수행합니다. 이러한 작업 기본적으로 Hadoop을 기본으로 수행됩니다. 하지만, 그대로 Hadoop을 가지고 하기엔 여러 가지 문제점들이 있지요.


첫번째 문제는 하나의 큰 XML 문서를 여러 개의 블록들로 분할하게 되면, 각 블록들만 봤을 때는 엘리먼트들의 구조 정보를 알 수 없다는 점입니다. 하나의 트리에 있는 노드를 단순히 같은 수의 노드를 가지는 블록들로 나누는 경우에 한 블록내 노드를 봐서는 이것의 부모나 조상 노드가 뭐였는지 파악하기 힘들죠. HadoopXML은 간단한 테크닉으로 이를 가능하게 합니다.


그리고 또, 하나의 질의를 처리하기 위해 한 MR job을 수행한다면 큰 낭비이겠죠. HadoopXML은

수천개의 질의를 한번의 MR job으로 처리하게 합니다. 이때 여러 가지 최적화를 수행하는데, 첫째는 서로 다른 가지 패턴 질의들 간에 서로 공유되는 경로 패턴들이 존재한다는 점을 착안해서 

가지 패턴들을 먼저 경로 패턴들로 분할하고 경로 패턴들에 대한 질의 결과를 먼저 추출합니다.

이때도 서로 다른 경로 패턴들이 문서 상에서 유일한 경로 패턴들로 매칭되는 점을 착안하여 

유일한 경로 패턴들의 결과들만 추출하게 하는 최적화를 수행합니다.

다음으로는 이러한 경로 패턴의 결과들을 가지고 조인을 통해 원래의 가지 패턴 조인에 대한 결과를 추출하는데 있어 많은 조인 연산들을 어떻게 지정된 reducer들에 분배하는 것이 효과적이냐입니다. 예를 들어 4,000개의 가지 패턴 조인을 16개의 리듀서에 분배하기 위해서 어떻게 grouping

하는 것이 효과적이냐 하는 문제입니다. 예를 들어 A join B join C와 A join B join D와 같은

유사한 입력을 갖는 조인은 같은 reducer에 두는 것이 좋을 것입니다.

만약에 그렇지 않다면, 서로 공유되는 A 와 B 입력은 두 리듀서에 중복해서 전달됨에 따라 I/O

낭비를 초래하겠죠. 그래서 결국엔 query들의 grouping을 어떻게 효과적으로 수행하는가에 대한 

최적화 문제가 있겠고, 이때 고려될 것은 리듀서에 전달되는 경로 패턴의 결과들이 서로 

같게 전달되면서, 조인 비용이 최소가 되도록 배분하는 문제가 되겠습니다.

HadoopXML은 이러한 문제를 해결하도록 고안된, 즉 런타임 시에 데이터 뿐만 아니라 질의도

적절히 배분하여 전체 질의 처리 비용을 최소로 하는 방안을 적용하였습니다.


이렇게 해서 HadoopXML은 108GB 크기의 실제 사용되고 있는 XML(UniprotKB/XML) 파일에 대한

16,000개의 가지패턴 질의들을 단지 2개의 M/R job만으로 30 분 이내에 처리합니다.

실험에 이용된 시스템 환경은 Intel i5, 8GB memory, 7200RPM HDD를 가지는 대당 50만원 정도의 일반 PC 9대(1대 master, 8대 slave) 입니다. 이정도의 규모의 저가의 PC로도 좋은 성능을 보여주었습니다. 


MapReduce에서 조인 문제는 매우 재밌는 주제입니다. Map과 Reduce라는 고정된 dataflow를 갖는 시스템에서 다양한 조인 연산들, 다중 조인 연산들을 어떻게 효과적으로 지원하는지는 아직도 할 분야가 많아보입니다.  저희는 이러한 문제를 풀고 있고 다른 저널 논문들로 이에 대한 해결 방안들을 순차적으로 곧 보일 겁니다. 






Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2012. 7. 9. 21:42



Posted by Bart

댓글을 달아 주세요

  1. 비밀댓글입니다

    2014.07.16 01:48 [ ADDR : EDIT/ DEL : REPLY ]

CS 전공/리뷰2012. 6. 11. 08:28

근래 KAIST에서 수행하는 연구 중에는  Hadoop을 이용한 비정형데이터 처리가 있다.

그래서 작게나마 9대의 PC들을 가지고 연구실에서 Hadoop cluster를 구축하였다.

1대는 이미 실험실에 존재하던 서버로 이를 Name node로 설정하였고

나머지 8대는 새로 구입한 것으로 i5 quadcore CPU + 8GB 메모리, 1TB 7200RPM HDD와 256GB SSD를 탑재한 것이다.  이들은 data node로 설정하였다. 그리고 이들 모두를 Gigabit switching hub로 연결하였다.


수행하다보니 꼭 reduce task 에서 임의로 노드들의 eth0 네트워크 인터페이스가 죽어버리는 

현상을 경험하였다. 처음엔 Hadoop 세팅 자체의 문제이거나 ulimit 등의 사소한 문제로 생각하였으나 아니었다. 

 수차례의 닭질 끝에 결국엔 Cent0S에 제공하는 Realtek 네트워크 드라이버가 2.x대로

현재의 8.0대에 비해 현저히 버전이 낮은 상태였고, 옛날 버전의 드라이버가 무언가 문제를 일으킨

것을 찾아내었다.


이것을 파악한 것은 나중의 일이고, 처음엔 이것저것 테스트해보았다. 그중에는 스위칭허브를 100Mbps로 교체해 본 일도 포함되었다. 그런데 교체해보니 느리지만 reduce가 죽어서 100% 완료에 도달못하는 문제는 사라졌다. 

해서 이번에는 네트워크 드라이버들을 모두 업그레이드를 하고,  100Mbps와 1Gigabit switching hub를 교체해서 달아보면서 네트워크 성능이 어떻게 M/R job의 성능에 영향을 미치는지 간단히 측정해 보았다. 물론 이것은 어떠한 데이터를 가지고 어떠한 작업을 수행하느냐에 따라 크게 달라질 것이다.

필자의 데이터는 text 포맷이고, M/R job은 간단히 언급하자면, text에서 유일한 token들을 추리고,

이들이 전체 데이터에서 얼마나 반복되어 나타나는지 count하여, 원 text와 같이 출력하는 일이다.


실험 결과는: 

--------

11GB 데이터 적재 시

1 Gigabit : 222.449s

100Mbps: 1,369.204s 

으로 약 6.15배 차이 


11GB에  M/R 작업 수행 시

1 Gigabit : 3분 48초

100Mbps : 9분 11초

 으로 약 2.41배 차이


를 보여주었다.


이를 Amdahl's law(http://bart7449.tistory.com/244에 대입시켜 보면, 

data loading의 경우 1/( (1-p) + p/10 ) = 6.15 이고

p ~= 0.93 


M/R 작업 수행 시의 경우를 보면,

1 / ( (1-p) + p /10 ) = 2.41 

p ~= 0.65

이라는 결과가 나온다. 


즉, 데이터 로딩의 경우 네트워크가 Hadoop 시스템에서 차지하는 비율이 약 93% 에 이르고, 

M/R 작업의 경우에는 그 비율이 낮아지지만 그래도 과반이 넘는 약 65% 에 이르렀다.


이는 Hadoop 시스템에서 네트워크 성능이 Hadoop 시스템의 전체 성능에 엄청나게 영향을 미치는

요인이라는 얘기가 된다. 우리가 보통 시스템에서  I/O를 얘기를 할 때는 디스크 I/O만을 

크게 고려하는데, Hadoop 시스템에서는 오히려 네트워크 I/O가 더 큰 영향을 미치는 것으로 

판단된다.


네트워크 쪽 하는 사람들은 Hadoop을 network traffic log 등을 분석하는데 이용하는 것으로 아는데, 

bulk data transmission이 많은 이러한 Hadoop 환경에서

네트워크 성능 개선을 통한 Hadoop 시스템 개선이나  또는 Hadoop에 특화된 네트워크 구축 방법이나 개발 등이 좋은 주제가 될 수 있지 않을까?


혹 이와 관련하여 좋은 아이디어 있다면 연락주기를 희망한다.  :) 


 




 

Posted by Bart

댓글을 달아 주세요

  1. 리눅스에서 네트워크 카드의 튜닝은 매우 많은 자료들이 있습니다.
    관심있게 보실 부분은 대용량 데이터를 전송할때 패킷을 크게 보낼 수 있도록 점보 프레임 설정이라던지,
    이더넷 랜카드의 irq등을 다양하게 쓰거나 최근 이슈가 되는 멀티큐잉을 지원하는 랜카드를 구입하시는 여러가지 방법이 있겠습니다.

    필요하시면 iz4blue.tistory.com 의 방명록에 올려주세요.

    2012.07.10 22:19 [ ADDR : EDIT/ DEL : REPLY ]

CS 전공/리뷰2012. 1. 17. 23:06

지난 40년간 마그네틱 디스크는 가장 주요한 저장공간이었다.  대용량 데이터들은 디스크에 기록되고 읽혀졌으며, 상대적으로 용량이 작았던 메인 메모리 때문에 데이터 버퍼링 및 메모리의 효율적 사용이 매우 중요하였다.
때문에 Jim Gray의 5분의 규칙(five-minute rule) 과 같이 데이터 버퍼링 또는 캐싱에 대한  경험적 규칙이 얘기되어 왔다.  실제 디스크에 기반한 DBMS에서도 이 버퍼의 성능이 엄청나게 큰 영향을 미쳐왔다. 
 

5분의 규칙은 1987년, 짐 그레이가 SIGMOD Record에서 언급한 것[각주:1]으로 디스크와 메모리의 접근 시간과 용량을 간단히 수식화하여 약 5분 내 다시 참조될 데이터는 메모리에 올려두는 것이 좋다라고 언급한 것이다.
해당 논문이 쓰여지고 10년뒤 97년에 그레이는 다시 그당시의  저장 계층의 특성에 의해 이 규칙이 어떻게 변화되었는지 다시 소개[각주:2]하였고, 또다시 10년 뒤 2008년에는 고츠 그라페(Goetz Graefe)가 SSD의 출현에 의해 이 규칙이 어떻게 변화되는지를 소개하였다[각주:3].(2007년에 짐 그레이가 실종되서 그는 쓰지 못하였다.)  



디스크는 세월이 지남에 따라 그 저장용량(capacity)은  엄청나게 개선되어 왔다. 하지만, 저장 용량에 비해 접근 지연시간(latency)은 크게 개선되지 못하여 왔다. 아래 표를 보자.
 

 

이 표를 보면 디스크의 용량은 80년대 중반에 30MB인것이 2009년에는 500GB로 약 16,667배정도로 크게 늘어났다. 지금은 데스크탑의 경우 하드디스크의 용량이 1TB는 기본이다.  전송속도 또한 개선되었으나, 저장용량에 비해서는 크게 개선되지 못하였다. 가장 개선이 못된 것은 접근 지연시간이다.  마그네틱 구조의 특성상 회전하는 디스크 위에서 디스크 암이 움직여야 하므로 랜덤 I/O를 위핸 접근 지연시간은 현 HDD 구조에서는 피할 수 없는 특성이다. 그리고, 이것은 크게 개선되지 못하였다. 

따라서 저장용량을 bandwidth로 나누어보면, 용량에 비해 bandwidth 개선이 턱없이 부족함을 보이는 것을 확인할 수 있다.  80년대 중반 15초면 다 읽을 수 있던 것을 지금은 직렬 읽기만 해도 5,000초가 걸리고, 랜덤 읽기인 경우에는 약 58일이라는 엄청난 시간이 요구한다.

이에 따라 연구자들은 기존의 HDD를 대체하기 위해 SSD를 연구해 왔고, SSD는 이제 울트라북을 포함한 여러 PC에 널리 이용되고 있다. 하지만, 데이터센터 스케일에서도 SSD를 적용할 수 있을까? 
 

스탠포드대의 연구자들은 램클라우드라는 프로젝트를 통해 SSD나 디스크보다 이제는 DRAM을 주요 저장공간으로 활용해야 한다고 역설한다.  이들은 인터넷 스케일 서비스의 제공에 있어 HDD를 전혀 이용하지 않고, 수백, 수천대의 노드 컴퓨터들을 연결하여 이들의 메인 메모리들에 모든 데이터를 저장, 관리하는 것을 목표로 한다.

  이러한 목표를 제시한 근거에는 여러가지가 있지만, 우선 위 표를 다시 보면 
 짐 그레이의 5분의 규칙에 따라 5분 이내 재참조될 데이터는 메모리에 올려두었던 것이 이제는 30시간 내에 재참조되는 데이터이라면, 메모리에 올려두는 것이 더 낫다라는 결과를 얻게 되었다는 점이다. 즉, 현재는 가급적이면 모든 데이터를 메모리에 올려두는 것이 효과적이라는 것이다. 사실 이러한 현실은 이전의 Jim Gray의 예측과도 일치한다. 그는 예전에 "Memory becomes disk, disk becomes tape, and tape is dead."라 언급하였다.
 즉, 이제는 메모리를 이전의 디스크가 점유했던 주요 저장소로서 활용하고 디스크는 백업과 아카이빙을 위한 용도로 쓰자는 것이다. 
(사실 테입이 완전히 사라진 것은 아니다. 아직 테입은 여러 데이터 센터에서 데이터 백업의 마지막 보루로 사용되고 있다.) 
 
메모리를 디스크처럼 쓰는 경우 가질 수 있는 많은 장점이 있다. 우선 접근지연시간(latency)가 현격하게 줄어든다. 현재의 데이터 센터를 통한 인터넷 서비스들은 인터넷-스케일이라는 규모가 큰 request들을 처리하는 것을 목적으로 한다. 때문에, 단일 노드로 구성되지 않고 데이터 센터에 많은 노드들을 네트워크로 연결하고 이를 통해 부하를 분산하는 분산 시스템이라는 특징을 가진다. 또한, 웹 서비스와 해당 서비스가 처리/제공하는 데이터가 서로 다른 노드에 위치하는 구조로 인해 접근지연시간이 단일 시스템 구조보다 느리다. 메모리를 디스크처럼 쓰는 경우 이러한 환경에서도 접근지연시간을 마이크로 세컨드 단위로 줄일 수 있다.
SSD를 디스크 대신 쓰는 경우에도 접근지연시간을 크게 줄일 수 있을 것이다. 하지만 저자들은 SSD의 접근지연시간은 디스크에 비해 훨씬 빠르지만, 그렇다하더라도 SSD보다 DRAM의 접근 지연시간 특히 쓰기지연시간이 훨씬 빠르므로 DRAM이 보다 경쟁성이 있다고 저자들은 얘기한다.
아래 그림은 디스크 드라이브, 플래시 메모리오 메모리의 특징을 그림으로 도식화한 것이다.
그림에서 보면 가장 덜 빈번하고, 한번에 요구되는 데이터 량이 큰 경우에는 디스크가 가장 경쟁력이 있고, 작은 크기의 데이터에 대한 매우 빈번한 질의에 대해서는 DRAM이 경쟁력이 있다. 그리고, 이들간의 경계는 시간이 지남에 따라 위쪽으로 이동하는 경향을 보인다. 이러한 경계의 이동은 DRAM의 경쟁력이 갈수록 커짐을 의미한다. 


 낮은 접근지연시간은 또한 온라인 트랜잭션 처리 비용을 줄이는데 큰 도움을 준다. 
예를 들어 일관성을 보장하는데 드는 비용, 즉 특정시간에 동시 수행되는 트랜잭션의 수(overlapping transactions)를 O라고 할 때 이는 새 트랜잭션의 도착비율(arrival rate) R과 각 트랜잭션의 운용기간(duration) D의 곱으로 간략히 표현할 수 있다.   O ~ R*D .
동시 수행되어야  할 트랜잭션의 수가 많을 수록 그만큼 트랜잭션들의 일관성을 보장하기위한 비용은 더 높아질  것이다. 
R 즉 새 트랜잭션의 도착 비율은 시스템의 스케일이 커가면서 계속 커지게 된다.
하지만, D 각 트랜잭션의 운용기간은 접근지연시간이 낮아짐에 따라 크게 개선되며 따라서 동시수행되는 트랜잭션 수를 줄어줄 수 있다. 사실 이러한 아이디어는 이전부터 메모리 상주형 DBMS(memory-resident DBMS 또는 in-memory DBMS)라는 형태로 구현되어 왔다. 하지만, 메모리 상주형 DBMS가 단일 또는 몇개의 노드를 이용하는 것에 국한되었던 것에 비해 램클라우드는 최소 수백대의 노드들의 메모리를 하나의 virtual storage로 보고 여기에 데이터를 저장시킨다는 점이 차이가 있다.

그렇다면 디스크 전체를 메모리로 대체하는 경우 그 비용은 어떨까? 비현실적이지는 않을까?
여기에 저자들이 조사한 간단한 통계정보가 있다.
 


2009년 당시 Amazon과 UA에서의 데이터량과 그당시의 메모리 가격을 가지고 해당 데이터를 모두 메모리에 얹기 위해서 소요되는 비용을 계산해 보았더니, Amazon의 경우 적게는 2.4만불에서 24만불 정도가 소요될 거라 한다. UA의 데이터는 그보다 더 작을 것이라 한다. 
즉, 메모리는 HDD나 SSD에 비해 빠를 뿐더러 I/O집중인 작업에 보다 싸면서 효과적일 수 있다는 것이다.

그렇다면 메모리 캐싱하고 이 램클라우드하고는 어떻게 틀린가? 인터넷 규모의 서비스를 제공하는 ISP들은 Memcached와 같은 분산 메모리 캐싱을 지원을 한다.  2009년 페이스북은 약 4,000개의 MySQL 서버를 이용해서 데이터 요청을 분산하였다 한다. 작업부하의 분산은 페이스북 자체의 코드로 이루어졌다고 한다. 그러다 이또한 바로 한계에 봉착해서 2,000개의 memcached 를 투입하였다고 한다. 
사실 램클라우드는 인터넷 규모의 서비스 제공에 있어 확장성(scalability)을 제공하기 위해 분산 메모리 구조를 지원한다는 점이서는 memcached와 같은 기존 분산 캐싱 기술들과 크게 유사해 보인다. 차이점은 램클라우드는 캐싱이 아닌 아예 데이터를 통채로 메모리에 올리겠다는 것이다. 페이스북 사례와 같은 경우에는 캐쉬된 데이터와 MySQL에 저장된 실 데이터 간의 불일치에 따른 일관성 유지에 따른 관리의 복잡성이 대두될 수 있다. 또한, 데이터가 캐슁되지 않은 경우에는 결국에는 디스크 접근을 필요로 한다. 데이터 접근의 분데이터가 메모리에 캐싱되어 있다면 메모리 접근지연시간을 보장할 수있지만 만약 해당 데이터가 메모리에 캐싱되어 있지 않으면, 디스크에 접근을 하면서 그만큼 접근지연시간이 늦어질 것이라는 점 때문이다.  

단일 사이트에서 동작하도록 설계된 DBMS의 제한된 확장성의 문제는 여러 곳에서 이미 지적된 바 있다. 이러한 문제를 해결하기 위한 현재의대표적인 기술은 NoSQL이라 볼 수 있다. 하지만 NoSQL은 확장성을 위해 기존의 DBMS가 가졌던 주요한 기능, 관계형 모델 대신 단순한 key-value model과 제한된 일관성 지원 정책 등의 한계를 또한 갖는다. 그리고 이들 또한 대부분 디스크에 기반한 저장소를 기준으로 설계되어 있으며, 관계형 DBMS만큼 범용적이지도, 호환적이지도 않다라고 저자들은 언급한다.

RAMCloud는 이러한 문제들을 해결하면서, 보다 큰 확장성과, 더짧은 접근지연시간을 제공하는 범용의 저장 시스템을 제공하기 위해 고안되었다. 

하지만, 이렇게 모든 데이터를 메모리에 올려놓았을때 문제점은 메모리 자체의 휘발성에 따라 장애 시 데이터가 유실될 수 있다는 점이다. 이에 대한 해결책은 크게 다른 데이터 노드에의 메모리에 데이터를 복제해 두거나 디스크에의 로깅을 생각해 볼 수 있다.

데이터들을 복제해서 모두 메모리에 두는 방식은 synchronous I/O를 가지고도 고성능을 보장할 수 있는 장점이 있지만, 상대적으로 비싼 DRAM이라는 저장장치의 공간을 크게 낭비하게 된다.
반대로, 데이터의 복제나 로그를 디스크에 위치시키는 것은 디스크의 접근지연시간에 따른 비효율성을 피할 수 없다. 때문에 이들은 메모리에의 로그 복제와, 메모리에서 디스크로의 비동기적인 data flushing을 통해 이 문제를 해결하려고 하고 있다.

아래 그림은 초기에 저자들이 생각하는 내고장성을 지원하기 위한 방법을 도식화한것이다. 

데이터에 대한 쓰기 연산은 마스터 노드의 메모리 상에서 바로 처리하고, 그에 따른 로그 엔트리들은 다른 노드들의 메모리에 임시적으로 위치시킨다. 그리고, 비동기적으로 각 노드의 메모리에 저장된 로그 데이터를 디스크에 기록한다.  


하지만, 아직 어떠한 방식으로 장애에 대한 내고장성을 지원하는지에 대해서는 구체적으로 연구결과를 내놓았다고 보기 어렵다. 아직까지는 이 연구는 실제 적용된 시스템이라기 보다는 일종의 비전에 가깝다. 하지만, 기술의 트렌드는 저자들이 생각하는데로 변화해 나갈것이라 생각된다.

RamCloud에 대한 간단한 소개와 그들의 프로젝트 홈페이지는 아래와 같다.

written by bart7449

  1. The 5 minute rule for trading memory for disc accesses and the 10 byte rule for trading memory for CPU time, ACM SIGMOD Record, 1987 [본문으로]
  2. The five-minute rule ten years later, and other computer storage rules of thumb, ACM SIGMOD Record, 1997 [본문으로]
  3. The five-minute rule 20 years later (and how flash memory changes the rules), ACM Queue, 2008 [본문으로]
Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2012. 1. 6. 10:49


지난 1월 5일 SKKU에 가서 한 발표 자료입니다.
MapReduce의 기본 원리와 특성들, 그리고 해당 프레임워크의 장단점과
개선 연구들을 다루었습니다.
뒷부분의 저희 연구내용 소개는  아직 출판이 안된 관계로 일부 뺐습니다.
Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2011. 7. 9. 16:29


M. Stonebraker는 J. Gray와 함께 존경받는 DB 계의 두 guru 중의 한분입니다. 이제는 68세의 고령 임에도 아직도 현역으로 왕성한 활동을 하는 분이죠. 과거 버클리 교수로 재직시 Ingres/Postgres와 같은 DBMS 개발에 앞장섰고 퇴직 후 지금은 MIT 겸임교수로, 여러 벤처기업의 투자와 자문을 통해 Vertica나 VoltDB, SciDB같은 여러 DBMS들의 개발에도 참여해 왔습니다. 실무자들에게는 MapReduce를 초기에 D. DeWitt과 함께 신랄하게 깐 양반으로도 유명하지요.

어찌되었던 이 분의 기본적인 생각은  기존 DBMS 벤더들의  One Size Fits All 정책, 즉 모든 기능들을 DBMS가 제공하는 것은 더이상 효과적이지 못하다라는 것이고, 이러한 생각을 3편의 논문으로 연달아 발표하기도 했습니다[각주:1][각주:2][각주:3]. 대표적인 시장이 데이터 웨어하우징 마켓인데요. 데이터 웨어하우스에서는 분석 업무가 주가 되기 때문에 쓰기보다는 읽기가 상대적으로 훨씬 많은 작업 패턴을 보이고 이에 따라 읽기 I/O를 줄이는 것이 중요 이슈입니다. 이를 위해서 기존의 행 단위의 레코드 기록을 하던 DBMS를 열 단위 레코드로 변환하는 컬럼 DB가 웨어하우스 시장에 많이 보급되었지요.  최근의 DBMS 시장 동향은 예전에 올렸던 도 잠깐 살펴보시고요.

이 분이 DW 시장에 대한 자신의 10가지 주장(assertion)에 대한 얘기를 했는데, 여기에서는 그에 대한 간단한 요약을 해볼까 합니다.(본문은 여기에서 확인).

1. Star 또는 snowflake schema는 DW에서 좋은 아이디어.
 - 스키마가 이런 모습이 아니라면 뭔가 이상한거임.
 
2. column store 들이 DW 시장을 row store를 점진적으로 대체할 거임.
 - 가령 200 개의 컬럼을 갖는 행 기반 스토어에서는 1컬럼 값을 읽으려 해도 한행을 load 해야 하므로 199개의 낭비. 본질적으로 읽기 연산에서는 row store가 column store보다 우수할 수가 없다.

3. 데이터 웨어하우스는 메인 메모리나 플래시 메모리에 기록할 대상이 아니다.
 - 데이터의 증가 속도는 스토리지의 비용 감소속도보다 더 빠르다.

4. 대용량 병렬 처리(MPP) 시스템은 DW 시장에서 매우 대중적이 될 것이다.(omnipresent)
  -  "Don't bet on anything that is not in the MPP camp."

5. 자동화된 튜닝이 중요하다.
  -  DW 시장에서는 인건비가 최대 비중. 이 인건비란 시스템과 DBMS 관리에 필요한 인력의 인건비를 의미.   - 자동화된 튜닝 시스템을 만드는 것이 결과적으로  중요.

6. 어플라이언스는 단지 SW 만이어야 한다.
  -  본인의 40년 DBMS 경험에 비추어 특화된 DB 머신이 이기는 경우를 아직 보지 못했다.
 -  범용 머신을 제작하는 벤더들은 DB 머신을 제작하는 곳보다 훨씬 많고, 그만큼 가격도 훨씬 저렴하다. 
 - 본인 경험으로는 DB 어플라이언스란 HW + 패키징 사례로 생각된다. 미리 설정된 범용의 HW와 거기에 미리 잘 조직화되어 적재된 DBMS

7. One size fits all DBMS은 복합적인 작업들을 지원하지 못한다. 
 -OLTP와 OLAP를 한 DBMS에서 모두 잘 지원한다는 것은 어려운 일이다.

8.  필수적으로 DW는 고가용성을 지원해야 한다.

9. DBMS는 온라인 프로비저닝 기능을 제공해야 한다.
 - 운영 중에 노드 추가/삭제가 가능해져야 한다.

10. 가상화는 DBMS 세계에서는 성능 문제를 야기한다.
 - CPU 자원은 약간의 오버헤드를 가지고 가상화한다 하더라도, DW는 디스크 I/O가 중요하다. 따라서 물리적인 데이터 배치 정보 등이 디스크 I/O를 향상시키기 위해 중요한데 가상화는 이를 가린다. 
- 가상화의 이점 또한 많지만, 가상화된 I/O는 싸지 않다.

몇 개(2,6, 10)는 논쟁 거리가 될 소지가 좀 보이기도 하는군요. 언제나 CACM에서 M. Stonebraker의 글을 소개할때마다 열띤 논쟁이 벌어지는데요. 에디터가 실을때 마다 하는 얘기 중에 이사람의 글을 오래된 경험자의 글로써 존중 또는 생각되어야 한다는 글귀가 있습니다. 물론, 여러 벤처기업들과의 금전적인 관계가 있기는 하지만..

 

  1. One size fits all: An idea whose time has come and gone, M Stonebraker… - Data Engineering, 2005. ICDE [본문으로]
  2. One size fits all? Part 2: Benchmarking results, M Stonebraker, C Bear, U Çetinteme, CIDR 2005 [본문으로]
  3. The end of an architectural era:(it's time for a complete rewrite), M Stonebraker, S Madden, DJ Abadi,... VLDB 2007 [본문으로]
Posted by Bart

댓글을 달아 주세요

CS 전공/논문 쓰기2011. 6. 26. 14:25
SIGMOD Record 2011년 3월호에 실릴 E. Rahm의 글을 보면, 지난 10년간(2000~2009)의 DB쪽 탑 저널과 컨퍼런스에 게재된 논문에 대한 기관/국가별 통계 정보를 제공합니다. 재미난 사실들이 몇가지 있어서 그림 위주로 옮겨봅니다. 조사대항은 SIGMOD, VLDB conference와 TODS, VLDB Journal입니다. 원문은  http://dbs.uni-leipzig.de/file/aumueller2011affiliationanalysis.pdf 에서 다운로드 받을 수 있습니다.

그냥 재미삼아서 한번 보면 좋겠네요.

- 10년 동안에 논문 출판수가 거의 두배가 되었다(188 in 2000 vs. 352 in 2009)


논문당 평균 저자수와 기관 수, 국가 수, 대륙별 통계치이다.
- 평균 2개 기관에서 3명의 저자가 논문을 쓴다고 보면 맞겠다.

- 논문 수에서 미국이 압도적이다. 왜 IT, CS를 미국이 선도하는지에 대한 하나의 증거라고 할 수도 있겠다.



저자들의 세계 분포이다.
-미국읜 New england 지역과, 5대호 주위하고 캘리포니아, 시애틀 쪽에 많은 분포.
- 유럽은 골고루이긴 하나 특히 독일, 스위스가 많고, 그다음 영국, 이탈리아, 그리스 등의 순.
- 중동에서는 이스라엘이 우리나라만큼 논문 내는 듯.
- 아시아에서는 홍콩과 싱가폴의 DB 연구가 아시아를 대표한다고 할정도로 논문 수가 많음 


우리나라의 SIGMOD, VLDB 저자들의 분포.
- KAIST가 제일 많고, 다음 서울대, 서울과 대전 사이에 원 보이는데 이건 아마 수원의 성균관대일 것으로 보이는데 그렇다면 이상원 박사님 팀일 것 같고. 다음에 대구&포항(아마 한욱신 박사님 팀같고).서울 옆의 조그만 점은 강원대 문양세 박사님 팀이 아닐까 합니다.
- 저 원 키우는데 일조하고 싶은데 말이죠 ㅠㅠ


이 그래프는 게재된 논문들에 대한 기관 수와 저자 주의 상관 관계를보이는데 가로가 논문들의 전체 기관 수 세로가 기관 별 평균 저자 수입니다.
-  보면 싱가폴이 제일 높은 위치에 있는데, 이 말인즉 적은 수의 기관에서 상대적으로 많은 사람이 논문이 되었다로 해석하면 될 것이고
- 가장 오른쪽의 미국의 경우 논문 게재자들이 많은 기관들에 포진되어 있다.(저변이 넓다?) 로 해석하면 되겠습니다. 한국은 그려지지가 않았네요.편수나 저자 수가 작아서  et al.로 분류된 듯.
 


이 표는 10년간 가장 많은 논문을 탑 저널,컨퍼런스에 낸 사람들. research paper, industrial paper, demo 로 분류되어 있습니다. 

 - Research는 인도계와 중국계가 잡고 있네요.
- Srivastava가 10년간 39편 ㅠㅠ. 
 

Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2011. 6. 6. 21:04
사실 1부에서 다루지 않았던 MapReduce의 성능 개선이나 개량 모델들에 대한 설명을 2부에서 하고 싶었습니다만, 시간 관계상 그게 여의치가 않았습니다.
해서, MapReduce 관련한 survey를 최근에 작성한 것이 있는데 그것으로 땜빵(?)을 할까 합니다.
혹 관심가지고 글을 기다리셨던 분이 계시다면 시간관계상 한글로 번역해서 올리지 못하는 점 죄송합니다.



 
 

Posted by Bart

댓글을 달아 주세요

CS 전공/리뷰2011. 3. 31. 14:08
DB 구조 쪽으로 떠오르는 신성 D. Abadi 교수가 Hadapt라는 회사를 차렸군요. Hadapt는 HadoopDB의 상용화 버전을 만드는 벤처입니다. HadoopDB는 MapReduce의 오픈소스 버전인 Hadoop을 연결 계층으로 이용하여 단일 노드의 DBMS들을 엮는 비공유 구조의 데이터 처리 시스템입니다.
달리 얘기하면, Hadoop에서 파일 시스템 대신에 DBMS를 이용한다고도 할 수 있습니다.

HadoopDB는 MapReduce의 장점인 확장성(scalability)을 그대로 유지하면서, Hadoop의 떨어지는 성능을 노드 단위의 DBMS의 우수한 성능으로 보완하자는 의도로 만들어진 시스템입니다. MapReduce의 성능이 좋지 못한 이유에 대해서는 이전 블로그 글를 참고하시고요. 이 시스템은 PostgreSQL을 하위 DBMS로 활용을 했는데 Hadapt에서는 VectorWise라는 DBMS를 이용했습니다.  아마 Connector들을 더 추가해서 다른 DBMS들도 지원을 할 것은 확실한 것 같고요.

그런데, 재미있는 것은 이 VectorWise에 관여되어 있는 사람이 또 Peter Boncz라는 겁니다. 이 사람 또한 컬럼-기반 DBMS인 MonetDB를 가지고 연구를 많이 한 사람이고요. 거기에 메모리 계층을 고려한 DB 연산의 최적화도 같이 접목시키는 연구를 많이 했죠. 어쨌든 VectorWise는 Ingres에 판권을 맡기고, 만드는 컬럼-기반 DBMS입니다. 컬럼 DBMS는 I/O를 줄이기 위해 기존 행-단위 기록을 했던 방식을 반대로 컬럼(열)-단위로 바꿨습니다. 즉 1행, 2행, 3행 식으로 디스크에 기록을 하는 것이 아니라, 첫번째 열값, 두번째 열값, 세번째 열값 순으로 기록을 합니다. 이렇게 하면 질의 처리 시, 특히 selection 연산의 경우 모든 행들을 읽어서 그중 selection할 대상이 되는 컬럼만 추리는 방식에서 대상이 되는 컬럼만 디스크에서 읽게 함으로써 많은 I/O를 줄일 수 있습니다. 특히 OLAP 업무에 특히 적합한 저장 방식입니다. 이 컬럼-단위 저장에도 몇가지 방식이 있는데 그중 PAX라는 페이지 저장 방식[1]이 주로 활용됩니다. 여기에 더해서 데이터 압축도 합니다. 근래의 컴퓨팅 시스템은 컴퓨팅 사이클보다 디스크 지연시간이 훨씬 bottleneck이기 때문에 압축과 압축해제에 소요되는 컴퓨팅 비용보다 디스크 I/O 때문에 잡아먹는 비용이 더 클 수 있다는 근거로 이런 선택을 한 것이고요.
 재미있는 것은 D. Abadi도 C-Store라는 이름의 컬럼-기반 DBMS를 박사학위 주제로 했던 사람이었다는 거죠(C-Store는 Vertica라는 이름으로 상용화가 되었고, 이 회사는 최근에 HP에 인수됩니다.) 아마 같은 주제를 해왔던 사람이라 다른 컬럼-기반 DBMS를 제치고 썼는지도 모르지요.

아무튼, MapReduce에서 보면 데이터 처리에 있어 I/O 비용이 굉장히 높아서 이를 줄임으로써 throughput을 향상시키려고 할 것이고요. 둘 다 주목적이 데이터 분석이나 처리 업무에 있고, OLTP에 있지 않으니, 둘의 결합은 매우 훌륭하다고 생각됩니다. 

참고로 좀더 알아보니 컬럼-기반 DBMS 를 만드는 회사들이 몇개 더 있군요.
InfoBright라는 회사는 MySQL 기반으로 컬럼 기반 DBMS를 만든다고 하고, 학계에서 만든 시스템으로는C-Store나 MonetDB를 이용해 볼 수 있습니다. 더 많은 리스트는 http://en.wikipedia.org/wiki/Column-oriented_DBMS에서 확인해 볼 수 있습니다.

그나저나 작금의 DBMS 시장은 정말 알게모르게 요동치는 듯 하네요. OLTP에서의 강자들 Oracle과 IBM, MS들은 그대로 있지만, 시장이 점차 커지고 있는 데이터 분석 분야에 신흥 업체들이 계속 출현하고, 또 여러 공룡 업체에 인수되는 현상들이 계속 보입니다. 
Netteza는 IBM에게 Vertica 는 HP에게, Greenplum은 EMC에 Aster는 Teradata 에게 인수되는 등 아주 요동칩니다. 창업과 기업인수가 활발한 미국의 IT 업계가 부럽네요. 

 [1] 
“Weaving Relations for Cache Performance” by Natassa Ailamaki, David DeWitt, Mark Hill, and Marios Skounakis, VLDB Journal, 2001

written by bart7449 
Posted by Bart

댓글을 달아 주세요