JP6268116B2 - データ処理装置、データ処理方法およびコンピュータプログラム - Google Patents
データ処理装置、データ処理方法およびコンピュータプログラム Download PDFInfo
- Publication number
- JP6268116B2 JP6268116B2 JP2015058741A JP2015058741A JP6268116B2 JP 6268116 B2 JP6268116 B2 JP 6268116B2 JP 2015058741 A JP2015058741 A JP 2015058741A JP 2015058741 A JP2015058741 A JP 2015058741A JP 6268116 B2 JP6268116 B2 JP 6268116B2
- Authority
- JP
- Japan
- Prior art keywords
- key
- address
- request
- access unit
- order
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9014—Indexing; Data structures therefor; Storage structures hash tables
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/16—Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Memory System (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
図2は、本発明の第1の実施形態に係るデータ処理装置を示す。
図7に、本発明の第2の実施形態に係るデータ処理装置を示す。図7のデータ処理装置は、第1の実施形態のデータ処理装置を拡張したものである。第1の実施形態と異なり、内部キー生成部111が追加され、順序キー列記憶部109が除去されている。第2の実施形態では、順序キー列をバリューとして、KV記憶部110で管理するところが異なる。以下、第1の実施形態との差分を中心に説明し、重複する構成および動作の説明は適宜省略する。
11:データ処理装置
101:要求解釈部
102:処理振分部
103;ハッシュテーブルアクセス部
104:順序キー列アクセス部
105:KVアドレス割当部
106:KVアクセス部
107:応答生成部
108:ハッシュテーブル記憶部
109:順序キー列記憶部
110:KV記憶部
111:内部キー生成部
Claims (16)
- キーを指定した読み出し要求を受け付け、前記読み出し要求を解釈する要求解釈部と、
複数のキーを所定のルールに従った順序で保持する順序キー列における前記キーに対して前記読み出し要求で指示された位置関係にあるキーを特定する第1アクセス部と、
第1アドレスと第2アドレスとを対応づけて管理する内部または外部の第1記憶装置から、前記第1アクセス部で特定されたキーのハッシュ値に基づく第1アドレスに対応する第2アドレスを取得する第2アクセス部と、
内部または外部の第2記憶装置において前記第2アクセス部で取得された前記第2アドレスに格納されたデータを読み出す第3アクセス部と、
を備えたデータ処理装置。 - 前記要求解釈部で解釈された前記読み出し要求の内容に応じて、前記第1アクセス部に前記キーと前記読み出し要求で指示された位置関係の情報とを通知し、前記第1アクセス部で特定されたキーを受け取り、受け取ったキーを前記第2アクセス部に通知する処理振分部
をさらに備えた請求項1に記載のデータ処理装置。 - 前記第2記憶装置の第2アドレスを管理するアドレス割当部を備え、
前記要求解釈部は、キーとバリューとを指定した書き込み要求を受け付け、前記書き込み要求を解釈し、
前記第1アクセス部は、前記書き込み要求で指定されたキーを前記順序キー列に追加することにより前記順序キー列を更新し、
前記アドレス割当部は、前記書き込み要求で指定されたキーに対して第2アドレスを割り当て、
前記第2アクセス部は、前記第1記憶装置において前記指定されたキーのハッシュ値に基づく第1アドレスに対応づけて前記第2アドレスを登録し、
前記第3アクセス部は、前記第2記憶装置における前記第2アドレスに前記バリューを含むデータを書き込む
請求項1または2に記載のデータ処理装置。 - 前記順序キー列は、前記第2記憶装置に格納されており、
前記第1記憶装置は、内部キーのハッシュ値に基づく第1アドレスと、前記順序キー列が格納された第2アドレスとの対応を管理し、
前記第2アクセス部は、前記第1記憶装置から前記内部キーに対応する前記第2アドレスを取得し、
前記第3アクセス部は、前記第2アクセス部で取得された前記第2アドレスに格納されたデータである前記順序キー列を前記第2記憶装置から読み出し、
前記第1アクセス部は、前記第3アクセス部により読み出された前記順序キー列を用いて前記キーを特定する
請求項1ないし3のいずれか一項に記載のデータ処理装置。 - 前記順序キー列は、前記第2記憶装置に格納されており、
前記第1記憶装置は、内部キーのハッシュ値に基づく第1アドレスと、前記順序キー列が格納された第2アドレスとの対応を管理し、
前記第2アクセス部は、前記第1記憶装置から前記内部キーに対応する前記第2アドレスを取得し、
前記第3アクセス部は、前記第2アクセス部で取得された前記第2アドレスに格納されたデータに含まれる前記順序キー列を前記第2記憶装置から読み出し、
前記第1アクセス部は、前記第3アクセス部により読み出された前記順序キー列に、前記書き込み要求で指定されたキーを追加することにより前記順序キー列を更新し、
前記アドレス割当部は、前記更新された順序キー列に対して第2アドレスを割り当て、
前記第2アクセス部は、前記第1記憶装置において前記内部キーのハッシュ値に基づく第1アドレスに対応づけて前記割り当てられた第2アドレスを登録し、
前記第3アクセス部は、前記第2記憶装置における前記割り当てられた第2アドレスに前記順序キー列を含むデータを書き込む
請求項3に記載のデータ処理装置。 - 前記内部キーを生成する内部キー生成部
をさらに備えた請求項4または5に記載のデータ処理装置。 - 前記順序キー列を複数に分割した各部分に、それぞれ異なる内部キーが割り当てられ、
前記内部キー生成部は、前記読み出し要求または前記書き込み要求で指定されたキーが、前記複数の各部分のいずれに属するかに応じて前記内部キーを生成する
請求項6に記載のデータ処理装置。 - 前記順序キー列は、前記複数のキーにそれぞれ対応づけて前記第2アドレスを管理し、
前記第1アクセス部は、前記特定したキーに対応する前記第2アドレスを特定し、
前記第3アクセス部は、前記第2記憶装置における前記特定した第2アドレスからデータを読み出す
請求項1ないし7のいずれか一項に記載のデータ処理装置。 - 前記順序キー列は、前記複数のキーを辞書順で管理する
請求項1ないし8のいずれか一項に記載のデータ処理装置。 - 前記読み出し要求は、1つのキーを指定し、前記キーの次の位置のキー、前記キーの前の位置のキー、またはこれらの両方を読み出すことを要求する、
もしくは、
前記読み出し要求は、2つのキーを含み、前記2つのキーの間に位置するキーの読み出しを要求する
請求項1ないし9のいずれか一項に記載のデータ処理装置。 - キーを指定した読み出し要求を受け付け、前記読み出し要求を解釈する要求解釈ステップと、
複数のキーを所定のルールに従った順序で保持する順序キー列における前記キーに対して前記読み出し要求で指示された位置関係にあるキーを特定する第1アクセスステップと、
第1アドレスと第2アドレスとを対応づけて管理する内部または外部の第1記憶装置から、前記第1アクセス部で特定されたキーのハッシュ値に基づく第1アドレスに対応する第2アドレスを取得する第2アクセスステップと、
内部または外部の第2記憶装置において前記第2アクセス部で取得された前記第2アドレスに格納されたデータを読み出す第3アクセスステップと、
をコンピュータが実行するデータ処理方法。 - 前記要求解釈ステップで解釈された前記読み出し要求の内容に応じて、前記第1アクセスステップに前記キーと前記読み出し要求で指示された位置関係の情報とを通知し、前記第1アクセスステップで特定されたキーを受け取り、受け取ったキーを前記第2アクセスステップに通知する処理振分ステップ
をさらに備えた請求項11に記載のデータ処理方法。 - 前記第2記憶装置の第2アドレスを管理するアドレス割当ステップを備え、
前記要求解釈ステップは、キーとバリューとを指定した書き込み要求を受け付け、前記書き込み要求を解釈し、
前記第1アクセスステップは、前記書き込み要求で指定されたキーを前記順序キー列に追加することにより前記順序キー列を更新し、
前記アドレス割当ステップは、前記書き込み要求で指定されたキーに対して第2アドレスを割り当て、
前記第2アクセスステップは、前記第1記憶装置において前記指定されたキーのハッシュ値に基づく第1アドレスに対応づけて前記第2アドレスを登録し、
前記第3アクセスステップは、前記第2記憶装置における前記第2アドレスに前記バリューを含むデータを書き込む
請求項11または12に記載のデータ処理方法。 - キーを指定した読み出し要求を受け付け、前記読み出し要求を解釈する要求解釈ステップと、
複数のキーを所定のルールに従った順序で保持する順序キー列における前記キーに対して前記読み出し要求で指示された位置関係にあるキーを特定する第1アクセスステップと、
第1アドレスと第2アドレスとを対応づけて管理する内部または外部の第1記憶装置から、前記第1アクセス部で特定されたキーのハッシュ値に基づく第1アドレスに対応する第2アドレスを取得する第2アクセスステップと、
内部または外部の第2記憶装置において前記第2アクセス部で取得された前記第2アドレスに格納されたデータを読み出す第3アクセスステップと、
をコンピュータに実行させるためのコンピュータプログラム。 - 前記要求解釈ステップで解釈された前記読み出し要求の内容に応じて、前記第1アクセスステップに前記キーと前記読み出し要求で指示された位置関係の情報とを通知し、前記第1アクセスステップで特定されたキーを受け取り、受け取ったキーを前記第2アクセスステップに通知する処理振分ステップ
をさらに備えた請求項14に記載のコンピュータプログラム。 - 前記第2記憶装置の第2アドレスを管理するアドレス割当ステップをさらに前記コンピュータに実行させ、
前記要求解釈ステップは、キーとバリューとを指定した書き込み要求を受け付け、前記書き込み要求を解釈し、
前記第1アクセスステップは、前記書き込み要求で指定されたキーを前記順序キー列に追加することにより前記順序キー列を更新し、
前記アドレス割当ステップは、前記書き込み要求で指定されたキーに対して第2アドレスを割り当て、
前記第2アクセスステップは、前記第1記憶装置において前記指定されたキーのハッシュ値に基づく第1アドレスに対応づけて前記第2アドレスを登録し、
前記第3アクセスステップは、前記第2記憶装置における前記第2アドレスに前記バリューを含むデータを書き込む
請求項14または15に記載のコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015058741A JP6268116B2 (ja) | 2015-03-20 | 2015-03-20 | データ処理装置、データ処理方法およびコンピュータプログラム |
US15/067,518 US10846338B2 (en) | 2015-03-20 | 2016-03-11 | Data processing device, data processing method, and non-transitory computer readable medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015058741A JP6268116B2 (ja) | 2015-03-20 | 2015-03-20 | データ処理装置、データ処理方法およびコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016177688A JP2016177688A (ja) | 2016-10-06 |
JP6268116B2 true JP6268116B2 (ja) | 2018-01-24 |
Family
ID=56925385
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015058741A Active JP6268116B2 (ja) | 2015-03-20 | 2015-03-20 | データ処理装置、データ処理方法およびコンピュータプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10846338B2 (ja) |
JP (1) | JP6268116B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6378044B2 (ja) | 2014-10-31 | 2018-08-22 | 東芝メモリ株式会社 | データ処理装置、データ処理方法およびプログラム |
KR102416004B1 (ko) * | 2015-09-02 | 2022-07-04 | 삼성전자주식회사 | 인터페이스 회로들, 메모리 모듈들 및 인터페이스 회로들과 메모리 모듈들을 연결하는 스위치 회로를 포함하는 서버 장치 |
US20220035737A1 (en) * | 2018-09-27 | 2022-02-03 | Sony Corporation | Storage apparatus, high dimensional gaussian filtering circuit, stereo depth calculation circuit, and information processing apparatus |
KR102238954B1 (ko) * | 2018-11-07 | 2021-04-14 | 어드밴스드 뉴 테크놀로지스 씨오., 엘티디. | 로직 맵을 통한 스마트 계약 데이터베이스의 트래버싱 |
CN110362572B (zh) * | 2019-06-25 | 2022-07-01 | 浙江邦盛科技股份有限公司 | 一种基于列式存储的时序数据库系统 |
CN110413613B (zh) * | 2019-07-09 | 2023-01-17 | 创新先进技术有限公司 | 大数据量数据的写入、读取方法、装置及设备 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006053711A (ja) * | 2004-08-11 | 2006-02-23 | Tamaki Hirano | 情報管理方法、情報処理システム、及びプログラム |
US8086593B2 (en) * | 2007-03-01 | 2011-12-27 | Microsoft Corporation | Dynamic filters for relational query processing |
JP4848317B2 (ja) * | 2007-06-19 | 2011-12-28 | インターナショナル・ビジネス・マシーンズ・コーポレーション | データベースのインデックス作成システム、方法及びプログラム |
US8484439B1 (en) * | 2009-10-27 | 2013-07-09 | Juniper Networks, Inc. | Scalable hash tables |
US20110276744A1 (en) | 2010-05-05 | 2011-11-10 | Microsoft Corporation | Flash memory cache including for use with persistent key-value store |
JP5597666B2 (ja) * | 2012-03-26 | 2014-10-01 | 株式会社東芝 | 半導体記憶装置、情報処理システムおよび制御方法 |
JP6103037B2 (ja) * | 2013-03-15 | 2017-03-29 | 日本電気株式会社 | 計算機システム |
US9519575B2 (en) * | 2013-04-25 | 2016-12-13 | Sandisk Technologies Llc | Conditional iteration for a non-volatile device |
US9298521B1 (en) * | 2013-04-29 | 2016-03-29 | Seagate Technology Llc | Command sets and functions |
JP2015176407A (ja) * | 2014-03-17 | 2015-10-05 | Necソリューションイノベータ株式会社 | 検索装置、検索方法、検索用プログラムおよび検索用データ構造 |
JP6189266B2 (ja) | 2014-08-20 | 2017-08-30 | 東芝メモリ株式会社 | データ処理装置、データ処理方法及びデータ処理プログラム |
-
2015
- 2015-03-20 JP JP2015058741A patent/JP6268116B2/ja active Active
-
2016
- 2016-03-11 US US15/067,518 patent/US10846338B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10846338B2 (en) | 2020-11-24 |
US20160275199A1 (en) | 2016-09-22 |
JP2016177688A (ja) | 2016-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6268116B2 (ja) | データ処理装置、データ処理方法およびコンピュータプログラム | |
US8996611B2 (en) | Parallel serialization of request processing | |
JP6122557B2 (ja) | ファイルマイグレーション方法及び装置、並びにストレージデバイス | |
JP6542909B2 (ja) | ファイル操作方法及び装置 | |
JP2012089094A5 (ja) | ||
CN106294352B (zh) | 一种文件处理方法、装置和文件系统 | |
US9002844B2 (en) | Generating method, generating system, and recording medium | |
US9584481B2 (en) | Host providing system and communication control method | |
CN107153512B (zh) | 一种数据迁移方法和装置 | |
US20160306741A1 (en) | Data Migration Method and Apparatus, and Processor | |
CN105677904B (zh) | 基于分布式文件系统的小文件存储方法及装置 | |
WO2014094421A1 (zh) | 数据处理方法和虚拟机管理平台 | |
CN112579595A (zh) | 数据处理方法、装置、电子设备及可读存储介质 | |
JP6951846B2 (ja) | 計算機システム及びタスクの割当方法 | |
CN114640678A (zh) | 基于SR-IOV的Pod管理方法、设备及介质 | |
CN113853778B (zh) | 一种文件系统的克隆方法及装置 | |
JP6378044B2 (ja) | データ処理装置、データ処理方法およびプログラム | |
JP6233846B2 (ja) | 可変長ノンスの生成 | |
CN116595015A (zh) | 数据处理方法、装置、设备及存储介质 | |
JP6607044B2 (ja) | サーバー装置、分散ファイルシステム、分散ファイルシステム制御方法、および、プログラム | |
CN107168645B (zh) | 一种分布式系统的存储控制方法及系统 | |
CN107153513B (zh) | 一种分布式系统服务器的存储控制方法及服务器 | |
CN114490517A (zh) | 数据处理方法、装置、计算节点以及计算机可读存储介质 | |
CN107168646B (zh) | 一种分布式数据存储控制方法及服务器 | |
JP2015179326A (ja) | データ転送装置、データ転送方法およびコンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170307 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20170607 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171124 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6268116 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |