JPH086707A - スクリーン指向ディスプレー処理システム - Google Patents
スクリーン指向ディスプレー処理システムInfo
- Publication number
- JPH086707A JPH086707A JP32056994A JP32056994A JPH086707A JP H086707 A JPH086707 A JP H086707A JP 32056994 A JP32056994 A JP 32056994A JP 32056994 A JP32056994 A JP 32056994A JP H086707 A JPH086707 A JP H086707A
- Authority
- JP
- Japan
- Prior art keywords
- gesture
- selection
- line
- user
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
縛なしに自由形態で如何なるタイプのデータの入力、及
び編集操作を可能にする。 【構成】ディスプレー処理システムは、情報データの自
由形態エントリーのために、ディスプレー手段、前記デ
ィスプレー手段上に情報データを記入(入力)するため
のデータエントリー手段、前記ディスプレー上に自由形
態のジェスチュア的データを記入(入力)するためのジ
ェスチュア入力手段、該かるジェスチュア的データは前
記情報データの少なくとも一部に関連するジェスチュア
を前記ディスプレー上に表示し、前記ジェスチュアを表
示する操作を前記情報データの前記一部に割当てるた
め、前記ジェスチュアのエントリーに応答する割当て手
段、及び前記情報データの前記一部に関して前記操作を
実行するため前記割当て手段に応答する実行手段を含
む。
Description
関し、より詳細には手動によるデータ記入(エントリ)
及び入力、編集及び表示機能を使用するジェスチャベー
スのコマンドシステムに関する。
テムは、様々な手段でユーザーがグラフィックスデータ
対象物(オブジェクト)を二次元空間に入力することが
でき、その空間においてその対象物及びそれらの位置を
編集することができるシステムである。このシステムは
2つの意味で「自由形態」である。第一に、図形対象物
自体は如何なる形状でもよく、入力方法により提供され
る手段にのみ依存する。第二に、空間のどこに図形対象
物が位置してもよく、束縛されない;対象物を入力及び
編集する手段によりユーザーが自由に対象物を位置付け
たり、再位置付けできるようになる。全ての図形対象物
はお互いに独立しており、お互いの関係は二次元空間に
おけるそれらの配置によってのみ決定される。
称される、この自由形態の第二の意味はより重要であ
る。自由形態のグラフィックスシステムの1つの例は、
子供の「ゴム印」グラフィックスの応用であり、ユーザ
ーはボタン(ゴム印)と指示(ポインティング)装置を
使用して、製図表面のどこにでも図形対象物(グラフィ
ックオブジェクト)を入力(「押印」)することがで
き、また指示装置を使用して表面上で対象物を動かすこ
とができる。非自由形態(「組織化された」)システム
の例としては、1つのテキストエディターが挙げられ、
その場合全ての文字が基礎となる「ストリング」構造の
中に組織化される。文字はストリング構造に適合する位
置以外は、二次元空間のどこにも配置することができな
い(例えば、文字を右側に移動させるためには、それら
を押させるためにストリングの中に「スペース」文字を
タイプしなければならない)。
テムは「なぐり書き」システムであり、この場合ユーザ
ーは随意の方法でそれらを単に描く(「インクで書
く」)だけで自由形態のマークを入力することができ
る。記入される該かるマークはシステムにおける自由形
態の図形対象物である;つまり、そのマークはユーザー
がそれを描くために選ぶ如何なる形状でもよく、製図表
面上のどの場所にも描くことができる。入力はスタイラ
ス、マウス等の自由に動かすことのできる入力装置、あ
るいは(圧力もしくは光学的手段で感知される)指等の
様々な感知手段によって遂行される。
てコマンドを与えることにより、自由形態の図形システ
ムにおいて図形対象物に対して行うことができる。コマ
ンドはキーボードベース及びメニューベースの技術等の
従来の技術により与えられる。しかし、ペンベースのノ
ートブック型コンピューターもしくは(ゼロックス・コ
ーポレーションの商標である)ライブボード(Live
board)として知られる大規模なディスプレー等の
「ジェスチュアベースの」入力システムにおいては、該
かる制御機能はコマンドジェスチュアによって始められ
る。コマンドジェスチュアはスタイラス入力装置で作ら
れ、システムが実施する動作を指定するものとしてシス
テムにより翻訳される手書きのストロークである。
ーザーの側で取るある動作によって、ユーザーがデータ
の代わりに製図(描画)表面上にジェスチュアコマンド
を記入(入力)しているのを探知することができる。該
かる入力動作はスタイラス上のボタンに圧力を保持する
か、あるいは働かせることを必然的に伴うかもしれな
い。ユーザーは製図表面から入力装置(例えばスタイラ
ス)を持ち上げることにより、コマンドを実行するよう
にシステムに指示する。他の方法も可能である。システ
ムはユーザーの特別な動作なしに実行できるコマンドと
して入力を認識することもできるし、あるいは製図表面
上で2回たたくこと(タップ)に応答して行動すること
もできる。
規模であれ、ジェスチュアベースの計算システムのユー
ザーにとって共通の活動は、他の人との通信目的であ
れ、自身のためにノートを作るためであれ、手書き及び
スケッチでの非公式ななぐり書きである。ライブボード
のホワイトボードシステムはこの種の活動を支持するた
めのシステムの第一の例である。なぐり書きシステムは
この材料を組織化されていないイメージとして、あるい
はストローク対象物の収集物として処理する。
造、例えばリスト、アウトライン、テキスト、表及び線
図を含む。効果的であるためには、なぐり書き(scr
ibbling)システムはこれらの構造の作成及び編
集を支持しなければならない。該かる支持がなければ、
例えば、リストの中で1つのアイテムを動かすという単
純な仕事も長たらしくなる(そのアイテムのために新た
な場所に空間を作るため、リストのセグメントを動か
し、アイテムを動かし、古い空間を閉じる)であろう。
これはあまりに時間がかかりすぎてユーザーが実際に遂
行することはほとんどできない。
構造用の一組の明示された設備(機能)を提供すること
もできるであろう。このように、例えば、ユーザーは表
を使って作業をしたいと表示し、システムはユーザーが
記入して巧みに処理する表の配列を提供する。しかしな
がら、問題は、「なぐり書き方法」で作業をしているユ
ーザーが前もって自分がどの構造を望んでいるかを常に
知っているとは限らないことである。これらの構造は急
に現れる。例えば、ユーザーは幾つかの語句を急いで書
き留める;そしてもっと広範囲に亙るリストを作ろうと
する;そしてリストの数個のアイテムの性質をマークし
始める;それからこれらの性質を第2のカラム(つまり
表)に作りたいと思う;そしてリストもしくは表の規定
を侵害するスケッチを作りたいと思う;等々である。
的かつ空間的であることが解る。時には、ユーザーは材
料をリストとして考える、例えば、それを並び変えるこ
とを希望し、時にはそれを文字画像として考え、その上
にスケッチすることを望む。更に、ユーザーが材料をリ
ストとして考えても、全ページをリストとしてみなした
いと思わないかもしれない、例えば、ページの左半分だ
けをリストとして考えたいと思うかもしれない。この種
の流動的プロセスを支持することができるシステムを持
つことが望ましい。しかしながら、ユーザーが明示して
構造を指示することを求めることは、この種の作業の自
然の流れを阻害することがある。
線図(ダイヤグラム)を支援する図形システムのスコア
がある。しかしながら、スタイラスやペン等の手に持っ
て手動で操作する入力装置で該かる入力を処理すること
は希である。通常、ペン入力は直ちに文字として認識さ
れ、従来のテキストとして処理される。ペンベースの計
算の商業分野は非常に活発で、ストロークベースのアウ
トラインシステムが出現し始めている。該かるシステム
は線で区画されたペーパーの観念に基づいているように
思われる。ユーザーがページをリストであると表示する
と、線が現れ、リストアイテム用の広い方形のセルのカ
ラムを作る。該かるシステムの一例として図3を参照す
る。全てのストロークはセル50の1つに属し、この方
法で全てのストロークがリストアイテム(リスト項目)
の中にグループ分けされる。空でない全てのセルはセル
50におけるストロークのグループを表すブレット(b
ullet)52を有する。リスト構造を巧みに操作す
るためにライン及びブレット上に幾つかのジェスチュア
がある、例えば、ブレットからラインに至るラインジェ
スチュアはアイテムを動かし、ブレット上のピグテール
ジェスチュアはアイテムを削除し、ラインから上下する
ジェスチュアはラインを上下に動かす(つまり、セルの
大きさを変える)。
システムと同様に、自由形態の情報を受け入れ、修正
し、もしくは変更することができないという欠点があ
る。該かる情報はテキスト、グラフィックス、表データ
の形態、及び前述のフォーマット内に含まれる他の情報
形態を取ることができる。従来のデータエントリーは不
幸なことに、限定された境界とか限定された入力領域等
の束縛なしには、自由形態で書き入れることができな
い。編集操作は限定された境界もしくは入力領域内に含
まれる全情報にのみ作用することができ、該かる境界内
の個々のストロークには作用することができない。
画定された入力領域、もしくはテキスト等の構造等の限
定された束縛なしに、自由形態方法で如何なるタイプの
データをも書き入れられる(入力される)ようにし、ま
た同様の方法で編集操作ができるようにするシステムを
持つことが望ましく、編集操作は記入された編集コマン
ドにより決定され、束縛は編集コマンドのエントリーの
前ではなく、後に発生するデータの性質を決定する。
た従来のシステムに関連する欠点を克服することであ
る。
計画(スキーム:方式)を特徴とするシステムにより達
成され、その計画においては、記入(入力)されたデー
タの構造は、そのデータに関する操作を実行するという
要求が為されるまで、不適切なものとなる。そのデータ
の構造の決定が重要なものとなるのは、そのデータに関
する操作を実行することが必要になった時である。編
集、再配列、移動等を含む所望の操作が、その特定の操
作の実施を可能にするためにデータ構造の決定をするこ
とになる。データ構造はリスト、表もしくは線図の形態
であると判断される。記入(入力)されたデータは自由
形態であり、その構造は記入時に決定されないことを意
味する。記入時のデータは自由裁量であってよく、走査
されたもの、図形的、テキスト的、絵画的、タイプされ
たもの等であってよい。それは自由形態としてシステム
によって処理される、つまり単に一連のストロークとし
て処理されることを意味する。特に、上記スキームは該
かる形態のデータのために柔軟な方法で、(ユーザーが
永久的に構造モードを「宣言する」必要がないように)
一時的に、また(ユーザーが組織化された材料の範囲を
定めることができるように)空間的に、支援を提供す
る。スキームはディスプレー表面にあらゆるタイプの情
報に対する一セット(組)の構造的/空間的のモデル、
特定の構造を選択し、該かる構造により限定される情報
を操作するための一セットのジェスチュア、及び構造を
認識し、構造的モデルに従って操作を実行するための一
組のシステム手順を指定するための一セットのデザイン
原則、に基づいている。これらのデザイン原則は手書き
のリスト(簡単な縦のリスト)、アウトライン(インデ
ンテッド(字下げ)・リスト)、テキスト(リスト及び
アウトラインの中にある)、表(ロウ(行)及びカラム
(列))、及び線図(ノード及びリンク)を支援するた
めに使用される。
ントリーのために、ディスプレー手段、前記ディスプレ
ー手段上に情報データを記入(入力)するためのデータ
エントリー手段、前記ディスプレー上に自由形態のジェ
スチュア的データを記入(入力)するためのジェスチュ
ア入力手段、該かるジェスチュア的データは前記情報デ
ータの少なくとも一部に関連するジェスチュアを前記デ
ィスプレー上に表示し、前記ジェスチュアを表示する操
作を前記情報データの前記一部に割当てるため、前記ジ
ェスチュアのエントリーに応答する割当て手段、及び前
記情報データの前記一部に関して前記操作を実行するた
め前記割当て手段に応答する実行手段を含むスクリーン
指向のディスプレー処理システムが提供される。割当て
手段は該かる操作を実行するために充分な情報データの
構造を決定する手段を含む。
ーフェイス表面とこの表面上に情報を生成するためのユ
ーザーが制御できる手段を含む図形編集システムが提供
される。このシステムは前記情報の少なくとも一部に関
して操作を遂行するために、前記表面上にラインイメー
ジを作り出すユーザー動作に応答する第1の手段を有
し、該かるラインイメージはそれに関連する一セットの
命令を持ち;該かる一セットの命令に答えて、前記表面
上に表示される情報を選択的に分析し、組織化し、再配
列する第2の手段を有し、該かる命令に従って、前記情
報に関する操作を実行するための第3の手段を有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは前記情報の少なくとも一部を選択す
るために、表面上にラインイメージを作り出すユーザー
動作に答える第1の手段を有し、該かる第1のラインは
それに関連する一セットの命令を持ち;該かる一セット
の命令に答えて、前記表面上の情報を選択的に分析し、
組織化し、再配列する第2の手段を有し、該かる命令に
従って、前記情報に関する操作を実行するための第3の
手段を有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、その上でデータを選択するため前
記表面上に第1のラインを作り出す第1のユーザー動作
に答える第1の手段を有し、第1のユーザー動作に引き
続いて、それに関連する一セットの命令を持つ第2のラ
インイメージを作り出す第2のユーザー動作に答える第
2の手段を有し、それに関連して前記表面上で情報を分
析し、組織化し、再配列するため前記命令に答える第3
の手段を有し、該かる命令に従って、前記表面上で前記
情報を翻訳(解釈)する手段を有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは前記情報の少なくとも一部に関する
操作を実行するため、表面上にラインイメージを作り出
すユーザー動作に答える第1の手段を有し、該かる操作
に従って、前記表面上の情報のために表、線図、リス
ト、及びアウトラインモデル構造を選択的に決定するた
め、前記ラインイメージ生成に答える第2の手段を有
し、前記組織(構造)的モデルに関する操作により影響
される前記情報を識別する第3の手段を有し、識別され
る対象物の関数として前記操作用の構造パラメーターを
計算する第3の手段を有し、前記情報に関する操作を実
行するための第4の手段を有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含むシステムのために図形編集方
法が提供される。この方法は、前記情報の少なくとも一
部に関する操作を実行するためのユーザー動作に答え
て、表面上にラインイメージを描くステップを有し、前
記操作に従って前記表面上の情報のための前記ラインイ
メージ作成に答えて、表、線図、リスト、及びアウトラ
インモデル構造を選択的に決定するステップを有し、前
記構造モデルに関する操作により影響される前記情報を
識別するステップを有し、識別される対象物の関数とし
て前記操作用の構造パラメーターを計算するステップを
有し、前記情報に関する操作を実施するステップを有す
る。
ーフェイス表面、この表面上に情報を表すためのユーザ
ーが制御できる手段、及び情報を記憶する記憶手段を含
む図形編集システムが提供される。このシステムは、表
面上にラインイメージを作り出すユーザー動作に答える
第1の手段を有し、前記情報の少なくとも一部に関する
操作を実行するために、コマンドジェスチュアとして前
記ラインを記憶装置を通して探索し、認識するため、前
記ラインイメージ作成に答える第2の手段を有し、該か
る操作に従って、表、線図、リスト、及びアウトライン
モデル構造として前記情報を選択的に限定(定義)する
第3の手段を有し、前記コマンドジェスチュアに関連し
て前記操作を実施する第4の手段を有し、その実施に従
って前記情報を表示する第5の手段を有する。
ーフェイス表面、この表面上に情報を表すためのユーザ
ーが制御できる手段、及び情報を記憶する記憶手段を含
むシステムのために図形編集方法が提供される。この方
法は、ユーザー動作に答えて表面上にラインイメージを
作り出すステップを有し、前記ライン作成に答えて記憶
装置を通して探索し、前記情報の少なくとも一部に関す
る操作を実施するため、前記ラインをコマンドジェスチ
ュアとして認識するステップを有し、前記操作に従って
表、線図、リスト、及びアウトラインモデル構造として
前記情報を選択的に限定(定義)するステップを有し、
前記コマンドジェスチュアに従って前記操作を実施する
ステップを有し、その実施に従って前記情報を表示する
ステップを有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、前記表面上にラインイメージを作
り出すためユーザー動作に答える第1の手段を有し、前
記情報の少なくとも一部に関する操作を実行するため
に、コマンドとして前記ラインを認識する、前記ライン
イメージ作成に答える第2の手段を有し、コマンド認識
に答えて、該かる操作に従って、スペースにより分離さ
れるラインアイテムの内少なくとも1つの縦のカラムか
ら成るリストとして前記表面上で前記情報を限定(定
義)する第3の手段を有し、前記コマンドジェスチュア
に関連する操作を実施する第4の手段を有する。
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、表面上にラインイメージを作り出
すためユーザー動作に答える第1の手段を有し、前記情
報の少なくとも一部に関する操作を実行するために、コ
マンドとして前記ラインを認識する、前記ラインイメー
ジ作成に答える第2の手段を有し、コマンド認識に答え
て、該かる操作に従って、各々が特定のインデンテーシ
ョン(字下げ)レベルを持つ、複数のラインアイテムか
ら成るリストとして前記表面上で前記情報を限定(定
義)する第3の手段を有し、及び前記コマンドジェスチ
ュアに関連する操作を実施する第4の手段を有する。
定(定義)することができる。該かるデザインの原則に
は以下のものが含まれる: 1.描画領域は常に、ユーザーがいつでも、自由形態
で、如何なる対象物をも記入することができる平坦な二
次元表面とみなされる。その使用に関して如何なる制限
もない。 2.ストロークのグループを選択し、それらを操作する
ために一セットのジェスチュア(つまり、システムによ
り翻訳されるストローク)がある。例えば、ループジェ
スチュアがいくつかのストロークを選択し、ピグテール
(pigtail)ジェスチュアがそれらを削除する。 3.(選択ジェスチュアによって限定(定義)される)
セレクションエンクロージャー(選択囲み)以外は、デ
ィスプレー上の全ての情報は単にストロークから構成さ
れ、それらは着色する、薄くする、移動させる、縮小さ
せる、削除する等の一般的なストローク操作に従う。ブ
レットもしくはセルライン等の特別な種類の対象物(オ
ブジェクト)はない。 4.システムによって予め限定(定義)されたストロー
クの組織的(構造的)グルーピングはない。しかしなが
ら、システムは要求があれば、現行セットのストローク
を幾つかの異なる種類の構造の1つとして翻訳すること
ができる。 5.ジェスチュアによって、ユーザーは現行のディスプ
レーの一部を一時的に特定の種類の構造とみなす意向を
指示することができる。例えば、左側の括弧ジェスチュ
アが一群のストロークを選択し、それらをリスト中のア
イテムとみなす。 6.セレクション(選択)が特定の種類の構造とみなさ
れる場合、その構造に関する操作はその構造の組織的仮
定に従って遂行される。例えば、平坦なセレクションが
動かされる場合、それは単に新しい場所に置かれるだけ
であるが、リストアイテムが動かされる場合、そのため
の空間が作成され、残りの空間が閉じられる。 7.特定のタイプのセレクションが捨てられると、組織
的(構造的)仮定はもはや認められない。つまり、組織
化(構造化)の記録は保持されない。
は予め宣言された構造はない。組織的仮定はユーザーの
その場その場の裁量による。つまり、これらの原則はユ
ーザーに一時的な柔軟性を与える。ユーザーは更に空間
的な柔軟性、つまり、組織化されたものと見なされるも
のの空間的範囲を定める能力を必要とする。更に2つの
原則がある: 8.ディスプレー上の材料の回りに「境界」を置くため
の技術が提供され、それは構造の空間的範囲を制限す
る。最も簡単な技術は(呼び出される構造の種類に対し
て)非常に長いストロークを単に境界線とみなすことで
ある。例えば、ユーザーはページのまん中に長い線を引
くことによって、ページの左側にリスト操作を制限する
ことができ、その線が境界として作用する。ユーザーが
ページの左側のリストアイテムを選択すると、アイテム
の範囲は境界線で止められる。 9.ディスプレー上に、呼び出される現行の構造に適合
しない対象物がある場合がある(例えば、表のカラム間
の垂直な線は、たとえロウを通過しても、選択されるロ
ウには属さない)。該かる対象物は「周囲」のものであ
ると考えられ、組織的操作においては乱されずに残され
る。
る、包括的な構造 - リスト、アウトライン、テキス
ト、表、及び線図があり、該かる構造は統一されたデザ
インで、例えば共通のジェスチュア及び異なる構造を横
切る類似したジェスチュアの属を用いて、一緒に処理さ
れる。最後に、システムはディスプレー上の材料が実際
その構造に(「雑音」のレベルにまで)適合する場合に
のみ、ユーザーが特定の構造を呼び出すものと仮定す
る。こうして、ユーザーはノード・リンク線図に関する
表操作を呼び出すことができ、システムはそれが意味を
なすことを調べることなく、それを遂行するであろう。
これらの原則は以下のシステムの説明の中で生かされ
る。
含むジェスチュアベースの入力システム10のブロック
線図を示す。透明の圧力感知型製図(描画)表面14、
つまりタッチパネルがCRTディスプレー12の表面上
に取り付けられる。ユーザーが製図表面14に触れる
と、その接触が接触検出回路18により検出される。
検出回路20に入力される。X−Y検出回路20は入力
信号を処理し、算術演算等を実行する。このように、X
−Y検出回路20は製図表面14の表面上の接触した入
力点の(x、y)座標を検出し、該かる情報をCPU2
2に送る。タッチパネル検出回路18、X−Y検出回路
20、及びCPU22は組み合わされて制御装置16を
形成する。制御装置16は記憶装置24のプログラムR
OM26に記憶されている制御プログラムに従って制御
を行う。記憶装置24のROMセクションはプログラム
ROM26を含み、そこではCPU22の制御プログラ
ムが記憶され、パターンデータ領域が様々な種類の文字
パターン等を記憶する。記憶装置24のRAMセクショ
ン28はCPU22の作業領域及び文字位置データ領域
30として使用されるRAM部分を含み、文字パターン
等のディスプレー位置を記憶する。
表面を使用し、図示されるように複数のアクセス可能機
能40を使用することができる電子スケッチパッド、ラ
イブボードもしくはホワイトボード等の電子入力装置で
ある。作業表面は製図表面14の上部部分36であり、
アクセス可能機能40は製図表面14の底部分38に置
かれている。これらの機能40は新操作(製図(描画)
モード)、削除、移動、収縮等を含むことができる。あ
るいはその代わりに、これらの機能はポップアップメニ
ューによってアクセスすることもできる。しかしなが
ら、これらの機能は指定が任意であり、それらの主な目
的はシステムの操作に固有の操作を明確にすることであ
る。これらの機能は多くの指定されたコマンドジェスチ
ュアにより表される同じ機能の幾つかを共有してもよ
い。
適当なユーザーが操作できる制御装置もしくは相互作用
装置を使用して入力シンボルを描き、機能を選択し、あ
るいは特定の機能を表示するジェスチュアを描く。明ら
かに、当業界の技術に含まれる他の変形物も使用するこ
とができる。
り出し、これらの対象物をその回りに自由形態のループ
32を描くことによって選択した。
黙)構造に関する一般的操作を実施するプロセスを調べ
ることによって最も良く理解できる。その手順の主な詳
細を以下に述べる。
テムは図4に示すように、以下の3つの基本的特徴を含
むように幅広く特徴付けることができる。
4:データ情報又は描画表面14上のストロークとして
描かれるコマンドジェスチュアを受け取り、ユーザーが
取る行為(動作)に答えて、個々のストロークをコマン
ドジェスチュアとして翻訳する。該かる行為はスタイラ
ス42の把持部分近くに位置するボタンに圧力を加える
ことであるかもしれない。他にもストロークをコマンド
として翻訳するようシステムに命令するために利用でき
る手段がある。しかしながら、ここで説明する目的のた
めに、システムはユーザーが望む時にストロークをコマ
ンドジェスチュアとして翻訳することができるものと仮
定する。
ュア(単数又は複数)が一旦ユーザーから発せられる
と、システムはプログラムメモリーを走査して、これ
(又はこれらの)ジェスチュアに割当てられた操作(単
数又複数)を判別し、ジェスチュアに従って組織的(構
造的)モデルのタイプを表示/決定する。
る操作(単数又は複数)を実行または遂行する手段。
0、62、64、66により示される以下の4つの副特
徴から構成される。
下の局部的対象物を識別する; (3)識別された対象物の関数として、操作用の組織的
パラメーターを計算する;そして (4)操作実施
示され、選択するために使用され、選択された情報に作
用を及ぼすために使用されるジェスチュアの組合せに従
って、特定のモデルタイプが選択される。
スチュアによりモデル構造が呼び出される。つまり、デ
ィスプレー上で所望の情報を選択するための特定のジェ
スチュアが、該かる情報が基本的な組織的モデル関係内
で処理されることをシステムに警告する。これらの特定
の選択ジェスチュアが、図6に示す組織化(構造化)さ
れた、つまり方形のエンクロージャー67を作成する。
好ましい実施例では、組織化されたエンクロージャーは
括弧ジェスチュア(上下の括弧68、70、及び左右の
括弧72、74)、下線ジェスチュア75、あるいはL
字型ジェスチュア76を描くことによって作成される。
これらの選択ジェスチュアはひとまとめにして、組織化
された選択ジェスチュアとして知られている。これらの
ジェスチュアの認識技術は、コーナーとか方位(配向)
等の該かるジェスチュアの簡単に見分けられる特徴故
に、全く簡単である。
後、システムはプロジェクション(projectio
n:突出)として知られるコンセプトにより組織化され
るエンクロージャーを作成する。この図法の主題は、上
述の1993年12月30日に出願され、ジェスチュア
ベースの入力システムにおけるエンクロージャーセレク
ションを変更するための装置及び方法と題された米国特
許出願 No. 08/175,841 に開示されている。構造選択ジ
ェスチュアにより、ジェスチュアのセグメント(脚部
分)が部分的にある所定の境界にむけて突き出される。
これらの突出したセグメントはエクステンション(延長
部)と呼ばれる。突出した境界により画定される領域に
当てはまるデータのすべてが選択される。例えば、左側
の括弧ジェスチュア”[”が水平に右側に突き出し、あ
る所定の境界に達するとその突出が終了する。突出した
括弧ジェスチュアのエクステンション境界に当てはまる
データの全てが選択される。L字型ジェスチュアも同様
の方法で作用する。下線ジェスチュアの場合、システム
は下線上のテキストまたは下線に接触するテキストの
「ライン」を識別し、ジェスチュアの終了点の間にある
ライン上の対象物を選択する。
選択は、しかしながら、組織的モデルに従って該かる情
報を指定及び/もしくは組織するための事項を持たない
将来の操作に対するアイテムの選択にすぎない。行われ
た選択を動かすためには、ユーザーは(組織化されてい
ない)移動ジェスチュア77を使用できる。
つまり正確な情報構造は、ユーザーがアイテムの選択に
関する第2のコマンドを実施して始めて、つまり第2の
(組織化された)ジェスチュアを描いて始めて決定され
る。これらのジェスチュアの例をやはり図6に示す。該
かるジェスチュアは削除82、移動84、縮小88、コ
ピー79、及び(動的)牽引(ドラグ)86を含む。し
かしながら、このリストは制限されない。特定のモデ
ル、その操作及びこれらジェスチュアと付加的なジェス
チュアの詳細を以下に説明する。幾つかのコマンドジェ
スチュア、特にクサビや脱字記号もその前の選択ジェス
チュアなしに使用することができる。
スチュア(及び時には第2のジェスチュア)がモデルを
指示し、モデルの中の幾つかのストロークを選択し、第
2のジェスチュアが選択されたストロークに関して遂行
されるべき動作を指定する。
モデルに関する操作により影響を受けるであろう局部的
対象物を識別する。この時点で、ストロークを構造(例
えばラインアイテム)にグループ分けし、これらの構造
に対して一セットのストロークを分割することにより、
システムが操作する。例えば、ラインアイテムを動かす
ためには、システムはどのストロークがラインアイテム
に属するかを識別し、(ライン間ギャップを決定するた
め)デスティネーション(宛先)においてラインアイテ
ムを識別し、それらがソースラインの上にあるか下にあ
るか、及びデスティネーションギャップの上にあるか下
にあるかによって、スクリーン上で残りのストロークを
分割する。これらの分割から、ラインスペースが容易に
引き出される。ライングルーピング(グループ分け)技
術について下記に説明する。
する手順が、ストロークをカラムにグループ分けし、カ
ラムギャップを見付け、カラムの左右にストロークを分
割するために使用される。しかしながら、テキストモデ
ル用には、セレクションの左右もしくは移動のデスティ
ネーションの左右にライン内のストロークを分割する一
セットの手順がある。ユーザーは括弧ジェスチュアによ
って明白にワードをグループ分けするので、ワードグル
ーピング手順は必要ではない。一群のワードを移動させ
るために、システムはソース及びデスティネーションに
おいてライングルーピングを行うためにのみ必要であ
り、左側及び右側のラインサブセグメントをデスティネ
ーションで別々に移動させ、ソースで一緒に戻すことが
できる。部分的なグループセレクションだけが行われる
場合、システムはグルーピングを完了するためにある仮
定をする。例えば、下線ジェスチュアはシステムがライ
ン境界を見つけることを要求するであろう。
ロークは選択された構造に対して非常の大きい対象物を
探すことにより識別される。
て識別された局部的対象物の関数として、操作用の組織
的モデルパラメーターを計算する。求められる手順はベ
ースライン、ライン、カラムスペーシング(間隔)、ワ
ードスペーシングを計算することを含む。更に、アウト
ライン構造においてサブツリーを崩壊させるためのパラ
メーターを計算するためのもの等の特定のアルゴリズム
がある。
を受けた対象物、及び組織的モデルパラメーターを決定
した。最後の機能は、操作66を実施すること、つまり
描画表面14上で対象物の明瞭な操作を含む所望の操作
を実施することである。例えば、ページ上の高い位置に
ラインを移動するために、ソースとデスティネーション
間のラインを下方に動かし、その結果生じるスペースに
ラインを動かし、空になったラインスペースを取り除
く。
(暗黙)構造を見つけるものである、典型的な手順はラ
インをグルーピングするものである。関連手順がベース
ラインを決定する。これらの手順の両方にとって基本的
なものは、スクリーンの水平の横断面の中の「インク
(ink)」の濃度を判別するものである。これらの手
順の上下の説明を下記に記し、その付属部分を付録(参
考文献)Aの記載する。
点、もしくは(ワードスペースを開くための)脱字記号
ジェスチュアの上部ポイントが与えられると、ライング
ルーピング(Line Grouping)手順は与え
られたポイントのy座標を含むラインに属するストロー
クを見つける。該手順はラインの上下の境界を計算し、
スクリーン上で全てのストロークをテストし、ライン上
に「存在する」ものを集める。ライン上に存在するスト
ローク用の基準は、ストロークの垂直範囲の半分以上が
上下のライン境界間になければならないことである。
順はインク濃度機能に基づいている。この濃度は配列に
よって別々に表示される。スクリーンは水平のストリッ
プに分割され、「インク濃度」が各々のストリップ毎に
計算される。この値の配列が次にしきい値を適用するこ
とによって二値(0または1)に変換され、それは平均
濃度の分数として表示される。より小さな、または大き
なしきい値を使用することにより、ラインの境界もしく
はテキストのベースラインを発見するためにインク濃度
を使用することができる。
のラインを処理できるステップ)も使用できることに注
目すべきである。
的な制御操作のフローチャートである。これらの操作は
以下の通りである。
手段(スタイラス、走査、タイプされたエントリー等)
のいずれかによって、データ82を記入(入力)するま
で、システムは活動しない。一旦データがシステムに入
力されると、ユーザーはユーザーアクション形態で描画
表面14上にジェスチュアを描くことができる(ブロッ
ク83)。ブロック84で、システムはジェスチュアが
記入(入力)されたことを検出し、ジェスチュアの形状
を分析してシステムに知られているジェスチュアの1つ
としてそれを類別する。判別ダイヤモンド(ブロック)
85において、ジェスチュアがシステムによって認識さ
れなければ、エラーメッセージがブロック86で表示さ
れ、システムは新しいジェスチュアエントリー(入力)
のためにユーザーアクション形態(ブロック83)に戻
る。ジェスチュアが認識されれば、システムはジェスチ
ュアが所望のデータを選択するためのものであるか否か
を判別する。この点において、更にシステムはセレクシ
ョン(選択)ジェスチュアのタイプを判別することに注
目すべきである。なぜなら、セレクションジェスチュア
のタイプはシステムが標準のデータ操作を実行するか、
もしくは組織的関係にあるデータ操作を実行するかを判
別するからである。しかしながら、セレクションジェス
チュアのタイプの詳細及びその属性については、図8の
フローチャートに関して下記において説明する。
れば、システムはブロック88においてその選択により
画定されたデータ情報を識別し、ブロック89で選択操
作を実行し、ブロック90で実施された操作の結果を表
示するであろう。それからシステムはユーザーアクショ
ン形態(ブロック83)に戻り、そこでユーザーは別の
ジェスチュアを入力することができる。
のジェスチュアが検出されれば、システムはブロック9
1においてジェスチュアにより画定された情報を識別
し、ブロック92において識別後の残りの情報データを
識別し、ジェスチュア及び識別された前の情報に基づい
て情報のための組織的(構造的)モデルを画定するであ
ろう。組織的モデルがリスト、表、線図もしくはアウト
ラインであってよい。例えば、リストはカラムラインア
イテムとして特徴付けられ(各アイテムは図形対象物の
ロウ(行)から成る)、アイテムが移動すると、カラム
は再配置されてアイテム用のスペースを作り、移動後に
残るスペースを閉じる。ブロック94において、システ
ムは識別されたジェスチュア(移動、収縮、削除等)に
関連する操作を実行する。その後、システムはブロック
95においてその操作に従って情報の変更プロセスを表
示し(アニメーションと呼ばれる)、更にブロック96
においてその実施に従って情報の結果を表示する。それ
から、システムはブロック81に戻り、そこでシステム
は入力を待つ。
の説明は、図8に示したフローチャートの中の拡大形態
に示される。図8のフローチャートの中の各要素のため
のテキスト、及び対応する参照番号を以下に記す。
この段階(ステップ)では活動していない。
一度ユーザーが情報を入力すると、システムはその情報
がジェスチュアであるか否かを判別する。情報がジェス
チュアでなければ、システムはブロック124に移動
し、他の操作を遂行する。そうでなければ、システムは
決定ダイヤモンド(ブロック)104に進む。
ージャーは既に存在するか?;自由形態のセレクション
エンクロージャーが存在すれば、システムはブロック1
10に進む。そうでなくて、自由形態のセレクションが
存在しなければ、システムは決定ダイヤモンド106へ
と移動する。
ロージャーは既に存在するか?;組織的セレクションが
存在すれば、システムは決定ダイヤモンド118に進
む。組織化されたセレクションが存在しなければ、シス
テムは決定ダイヤモンド108に移動する。
?;もし入力情報が選択ジェスチュアであれば、システ
ムは決定ダイヤモンド112に進む。選択ジェスチュア
でなければ、システムは決定ダイヤモンド122に進
む。
アであるか?;入力情報が自由形態の変更ジェスチュア
であれば、システムはブロック126に進み、現在の自
由形態の選択ジェスチュアを変更する。もし自由形態の
変更ジェスチュアでなければ、システムは決定ダイヤモ
ンド112に進む。
アであるか?;入力情報が自由形態の選択ジェスチュア
であれば、システムはブロック128に進み、新しい自
由形態のループを作り、ブロック100に戻る。もし入
力情報が選択ジェスチュアでなければ、システムは決定
ダイヤモンド114に進む。
ュアであるか?;入力情報が組織化された選択ジェスチ
ュアであれば、システムはブロック132に進み、新し
い組織化されたセレクションを作る。(組織化された選
択ジェスチュアは組織的モデルの1つに従って考慮され
るべき情報を囲む。これらのジェスチュアは括弧及びL
字型形状を含む。これらのジェスチュアの詳細は以下に
記す。)もし入力が組織化された選択ジェスチュアでな
ければ、システムは決定ダイヤモンド116に移動す
る。
であるか?;入力が自由形態の選択ジェスチュアに関す
る操作であれば、システムはブロック130に進み、操
作を実行する。そうでなければ、システムは翻訳不可能
なジェスチュアを示すエラー信号を出現させる。
ュアであるか?;ここでは組織化された選択は既に存在
している。そこで、入力情報が組織化された選択ジェス
チュアであれば、システムは決定ダイヤモンド120に
移動し、組織化された選択が現在の選択ジェスチュアと
「整合する(match)」か否かを判別する。「整合
(matching)」という言葉は下記において説明
する。入力が組織化された選択ジェスチュアでなけれ
ば、システムは決定ダイヤモンド112に戻り、入力が
自由形態の選択であるか否かを判別する。
現在(既存)の組織化された選択と「整合する」か?;
入力された組織化選択が現在の組織化ジェスチュアと調
和すれば、システムはブロック134に進み、現在の選
択ジェスチュアを変更する。そうでなければ、システム
はブロック132に進み、新しい組織化選択を作成し、
前に存在したセレクションエンクロージャーを取り除
く。「整合」という言葉は、新しいジェスチュアにより
選択される材料が、選択のタイプに適切な方法で現在の
組織化セレクションに重なる(オーバーラップ)ことを
意味する。例えば、突出した選択ジェスチュアにより画
定される領域が現在の方形セレクションの領域と交差す
れば、そのセレクションは「整合」し、現在のセレクシ
ョンは、突出した選択ジェスチュアがその境界の1つに
なるように、延長されるか、収縮される。しかしなが
ら、精密な交差は必要ではない。例えば、現在の組織化
セレクションが「テキストのまわりを包む」モデル(ラ
インからラインへと続くテキスト)に適合すれば、ジェ
スチュアはラインからラインへの流れにおけるポイント
をマークするものとして翻訳(解釈)されるであろう。
あるか?;入力が選択ジェスチュアなしに作用するジェ
スチュアであれば、システムはブロック136に進み、
操作を遂行する。そうでなければ、エラーメッセージが
現れ、翻訳不可能なジェスチュアが入力されたことを指
示する。
上。
作成する;同上。 130:現在のセレクションに関する操作を遂行する;
同上。
する;同上。 134:現在の組織化セレクションを変更する;現在の
組織化セレクションエンクロージャーは変更ジェスチュ
アを含むように造り直される。
とを合図する;同上。
テム(もしくは略してアイテム)の垂直のカラムである
と仮定する。アイテムは通常はテキストのラインであ
る。従って、幅が広く背は高くないと仮定する。このよ
うに、アイテムの左側の左側括弧はテキストを選択する
ための効果的な方法であるので、このジェスチュアはこ
のモデルにおける好ましい選択形態である。リストにお
いて、アイテム間の垂直のスペースは最小にする。アイ
テムを削除すると、残りのスペースは取り除かれる(つ
まりその下のアイテムが上に上げられる)。しかしなが
ら、アイテムはお互いの上には置かれない。従って、ラ
インアイテムが他の2つのアイテムの間に移動すると、
新しいアイテムのためにスペースが作られる。リスト操
作は現在のラインスペーシングを局部的にそのまま保と
うとする。しかしラインスペーシングは明白に開かれる
か、あるいは閉じられる。更に、アイテムは水平に移動
させて他のアイテムと適切に整列させることができる。
アとして選択され、アイテムもしくはアイテムのライン
を選択するために描かれる。”[”の高さはアイテムに
含まれると考えられるものを画定する。しかしながら、
複数のラインを「ジェスチュア」内に含むことができる
ことに注意しなければならない。図6(a)及び6
(b)は新聞名のリストを示す。図9において、左側の
括弧は”USA Today”の左に置かれて、その全
アイテムを選択する。図10は全アイテムのまわりの方
形のセレクションエンクロージャー150を示す。ライ
ンアイテムを含む(もしくは除外)するためにセレクシ
ョンを延長(もしくは収縮)させるには、セレクション
形状がどのように造り直されるべきかを示すL字型のジ
ェスチュア152を描く。こうして、L字型のジェスチ
ュアを含み、また”USA Today”と”Los
Angeles Times”と含むように方形のセレ
クションが造り直される。このジェスチュア152を図
11に示し、その結果延長されたセレクションエンクロ
ージャー150を図12に示す。
む場合、セレクションエンクロージャー内からピグテー
ルジェスチュアを描けばよい。図13はこのジェスチュ
ア154を示す。一度削除ジェスチュアが出されると、
アイテムが削除され、残りの2つのアイテムがお互いに
近付けられ、これらのアイテム間の空のスペースが取り
除かれる。図14はリストの中の残りの2つのアイテム
を示す。
かすには、ユーザーはセレクションエンクロージャー1
50から目標位置、例えば図15のアイテム”Los
Angeles Times”の真下までラインジェス
チュア156を描けばよい。その結果生じる移動を図1
6に示す。あるいはその代わりに、ユーザーは(図示し
ない)目標位置において”>”ジェスチュアを描くこと
により、目標位置に選択アイテムを移動させることもで
きる。
ーザーは水平ラインジェスチュアを描けばよい。選択ア
イテムをリストの別の位置にコピーするには、ユーザー
は目標位置で”<”を描けばよい。選択アイテムを縮小
/拡大するには、ユーザーは図6に示すように、内向き
/外向きの螺旋形ジェスチュア88を描けばよい。
に素早くスペースを作るには、ライン間のスペースにく
さび”>”ジェスチュアを描けばよい。このジェスチュ
アの例を図17に示す。くさび158は”USA To
day”と”Los Angeles Times”の
間に置く。図18はこれらのアイテム間に挿入されたス
ペースを示す。
ーはセレクション領域のまん中を触る。一度ユーザーが
まん中に触ると、セレクションはペンに「くっつき」、
ペンは持ち上げられるまで、セレクションの画像を滑ら
せ、その時にスペースが適当に開かれたり閉じられて、
選択アイテムがその適当な位置に移動する。牽引操作の
例を図19、20、21に示す。
t Journal”が選択される。図20は、このア
イテムが牽引された後、”USA Today”と”L
osAngeles Times”の間に置かれ、これ
らの2つのアイテムに重なるように置かれる様子を示
す。図21は”USA Today”、”WallSt
reet Journal””Los Angeles
Times”の順にリストを整理する様子を示す。図
6の矢印86が牽引操作の運動を表すことに注目するこ
とが大事である。しかしながら、ユーザーが利用できる
1つの操作として図6に示しただけである。
た性質に依存しない操作を応用するために他のユーザー
行為も使用できることである。例えば、ストロークを赤
に変更するには、メイクレッド・ボタンに触ればよい。
インアイテムはアイテムの階層型構造を決定するインデ
ンテーションレベルを持っている。固定された「タブ」
位置はなく;アイテムのインデンテーションレベルは、
左端のストロークの水平位置がその上のアイテムの左端
のストロークの水平位置に「近接する」かもしくはそれ
とは「大幅に」異なるかによって決定される。アイテム
を移動させる、つまり左の最も近い各アイテムのストロ
ークの端を、その前のアイテムと全く同じに、もしくは
それとは大幅に異なって整列させる整列操作がある。こ
の操作はインデンテーション(字下げ)構造に関するシ
ステムの翻訳(解釈)を示す。
節するためにアイテムを移動させることができる。アウ
トラインサブツリーは1つのアイテムと、それより大き
なインデンテーションレベルを持ったその下にある全て
のアイテムの組合せである。サブツリーはアウトライン
のより高いレベル構造を示すために崩壊させることがで
きる。崩壊されたサブツリーは物理的に(縦寸法のみ
が)縮小し、サブツリーの最上部のアイテムの下で、コ
ンテナー対象物(オブジェクト)と呼ばれる、薄い物理
的ラインのように見える。コンテナー対象物は元の大き
さに拡大し直すことができる。コンテナー対象物の存在
を示すために、厚めのライン等のアイコンを使用するこ
とができる。適切なサブツリーもしくはサブツリーまた
はアイテムの連続だけを崩壊させられることが重要であ
る。セレクションが適切なサブツリーもしくは適切なサ
ブツリーの連続(シーケンス)でなければ、崩壊させる
前に拡大されるであろう。セレクションが適切なサブツ
リーに拡大できない不適切なアイテムのセットであれ
ば、崩壊操作は阻止される。コンテナー対象物はリスト
アイテムのように処理される、つまりブロックとして動
かすことができ、そうでなければ所望のように操縦でき
る。
るには、ユーザーはセレクションの左端で垂直の(ライ
ン)ジェスチュアを描けばよい。この例を図22に示
す。第1レベルの表題(ヘッディング)は”Newsp
aper”であり、”New York”はサブツリー
の表題である。垂直のラインジェスチュア160は”N
ew York”で始まる選択アイテムの左端に描かれ
る。システムはセレクションの中の全てのラインアイテ
ムのインデンテーションを比較し、おおまかに等間隔で
引っ込んだラインが正確に等間隔で引っ込むように、ラ
インアイテムの水平位置を調節する。この結果生じるア
ウトラインを図23に示す。
る(つまり、サブツリーにおいて最も低いレベルを崩壊
させる)ためには、メニューからコラプス・ワン・レベ
ル・アイテム(−レベルアイテム崩壊)を選ぶ。図24
はサブツリーにおける最低レベルが崩壊される前のアウ
トラインの選択アイテムを示し、図25は最低レベルが
崩壊した後のアウトラインを示す。サブツリーの最低レ
ベルが一度崩壊すれば、選択されていない他のアイテ
ム、つまり”Radio Stations”が上方向
に移動して、サブツリーから残されたスペースを閉じ
る。
を崩壊させる(つまり、最上部レベルだけを残す)ため
には、ユーザーはコラプス・オール・レベルスのメニュ
ーアイテムを選べばよい。セレクションの中の崩壊アイ
テムを1レベルだけ拡大する(つまり、崩壊アイテムの
最高レベルだけを拡大する)には、ユーザーはエクスパ
ンド・ワン・レベルのメニューアイテムを選べばよい。
拡大するには、エクスパンド・オール・レベルスのメニ
ューアイテムを選ぶ。これは図26と27に示される。
内の制限されたテキストのモデルである。手書きのスト
ロークはまずラインアイテムとしてグループ分けされ、
次にラインアイテム内でワードスペースにより分離され
るワードとしてグループ分けされると仮定する。本明細
書において使用される「ワード(word)」という言
葉は、通常の言語の言葉ではなく、空のスペースにより
分離される対象物の水平の群れ(クラスタ)を指す。ス
ペースにより範囲が定められるタイプ打ちされた文字の
連続(シーケンス)は該かる「ワード」の特別な場合で
ある。ライン上のワード及びワードのスペースは縦寸法
におけるラインアイテム及びラインスペースのものに類
似する方法で横寸法において処理される。ワードスペー
シングはワードが削除される時に閉じられ、ワードを挿
入するために場所を空けるために開かれる。ワードは1
つのラインに含まれ、ユーザーによってライン間で明白
に移動されなければならない。同じライン上で隣接する
ワードは、左右の括弧ジェスチュアで、あるいは下線ジ
ェスチュアにより選択できる。ワードが動かされると、
システムはワードスペースもしくはラインスペースを作
成すべきか否か、つまりそれらを収容するために開かれ
るべきか否かを判断する。更に、ラインアイテムもこの
方法で処理される。つまり、ラインアイテムはライン上
の全てのワードをたまたま含むものである。
下に線を引くか、あるいは括弧”[”と”]”ジェスチ
ュアを描けばよい。(選択されるワードがラインの左端
もしくは右端まで伸びている場合、1つの括弧だけでよ
い。)この例を図28、29に示す。ワード”Ange
les”は選択のために括弧で囲まれている。図30に
示すように、ユーザーは選択アイテムを削除するために
エンクロージャー150からピグテールジェスチュア1
62を描けばよい。その結果を図31に示す。
ライン上の場所に選択ワードを移動させるには、ユーザ
ーはセレクションからワードスペースまでラインジェス
チュアを描くか、あるいはワードスペースに脱字記号ジ
ェスチュア”∧”を作ればよい。この例を図32及び3
3に示す。セレクション”Angeles”及びライン
ジェスチュア164はセレクションエンクロージャー1
50から、”USA”と”Today”の間の所望の場
所まで伸びていることに注意。システムは選択情報を適
合させるために所望の場所にスペースを作る。新しいラ
インに選択ワードを動かすためには、ユーザーはライン
スペースにラインジェスチュアを描くか、あるいはライ
ンスペースに”>”ジェスチュアを作ればよい。これは
図34に示されている。ラインジェスチュア166は選
択情報、つまり”Angeles”からテキストの最初
の2つのラインの間の場所まで伸びている。システムは
テキストのこれらのライン間にスペースを作り、選択情
報を移動させる。図35はこれらの操作の結果を示す。
は、ラインスペースに”<”ジェスチュアを描けばよ
い。テキストを挿入するためにスペースを素早く開くに
は、脱字記号ジェスチュアを挿入してもよい。脱字記号
ジェスチュア168を図36に示す。図37では、スペ
ースが”USA”と”Today”の間に作られてい
る。システムは隣接テキストの大きさの関数として決定
される固定された量のスペースを作る。
常の操作を適用することができることである。例えば、
ストロークを赤に変更するには、メイク・レッドボタン
に触る。
ウはリストモデルからの正確なラインアイテムである。
カラムはロウと同様であるが、ジェスチュアと操作によ
り横寸法から縦寸法に置き換えられる。例えば、左の括
弧がロウを選択するように、最上部の括弧はカラムを選
択する;ロウが垂直に動かされるように、カラムは水平
に動かすことができる。カラムスペースはカラム間の垂
直のスペースである。更に、(日本語もしくは中国語書
きのように)垂直のテキストがあり、それは上と下の括
弧で選択される;カラムの中の材料は垂直のテキストが
動かされる時に垂直に開いたり閉じたりする。純粋のロ
ウもしくはカラム操作に加えて、やはり左右の括弧もし
くは上下の括弧を用いて、ユーザーは材料のブロック -
1つ以上のロウもしくはカラムから材料の方形選択 -
を選択することが認められる。これは表のより大きな部
分に簡単なコマンド(例えば、メイク・レッド)を適用
する便利な方法を提供する。しかしながら、ブロック選
択には特別な表の翻訳(解釈)は配置されない。
ように、上部括弧ジェスチュア172を描けばよい。図
39はこのジェスチュアに答えて取られる動作の結果を
示す。選択カラムを削除するには、ピグテールジェスチ
ュアを描けばよい。選択カラムを移動させるには、図4
0に示すように新しい場所までラインジェスチュアを引
く(あるいは”∧”ジェスチュアを作る)ことができ
る。図41では、中央のカラム全体が”3”で始まるカ
ラムの右側に移されていることに注意。選択カラムをコ
ピーするには、”<”ジェスチュアを新しい位置に描け
ばよい。
ジェスチュアを描いて所望の情報を囲むことができる。
これは図42と43に示される。(縦もしくは横の)選
択ブロックを削除するには、セレクションエンクロージ
ャーからピグテールジェスチュアを描けばよい。これは
自動的にスペース(縦もしくは横に)を閉じることにな
る。(縦もしくは横の)選択ブロックを移動させるに
は、セレクションエンクロージャーから目標場所までラ
インジェスチュアを描けばよい。ラインジェスチュアの
例を図44に示し、動かされる対応する縦のブロックを
図45に示す。ブロックをコピーするには、目標位置
で”<”ジェスチュアを描けばよい。
ラム、もしくはブロックに通常の方法で適用することが
できる。例えば、ブロック内のストロークを赤に変更す
るには、メイク・レッドボタンに触る。
ーは境界線として作用するように長いストロークを単に
描くだけでよい。境界の機能は構造セレクションの空間
的範囲及び組織化操作の結果を制限することである。シ
ステムはジェスチュアを翻訳する間に、それが「突き当
たる」長いストロークを境界線とみなす。選択される構
造の範囲は自動的に境界で止められる。例えば、図46
において括弧によりリスト中のアイテムを選択する場
合、境界174に至るまでのストロークが図47におけ
るセレクションに含まれる。境界の侵害を生じるであろ
う組織化操作は阻止される。例えば、図48の”USA
Today”と”LA Times”の間に示される
(脱字記号を用いる)開スペース操作は、スペースがリ
ストの最後のライン、つまり”LA Times”を下
の境界から追い出すようになるので、阻止される。
ことができる。例えば、図49に示すように、多重カラ
ムリストにおいて、アイテム(USA Today)を
1つのカラムから他のカラムへと(境界はカラムの間に
ある)動かすことができる。図50において、アイテ
ム”USA Today”のために”Paper”と”
Radio”の間の境界の他方の側のカラム内にスペー
スが作られていることに注意。
めには、コーナー型のジェスチュアもしくは括弧ジェス
チュアを描いて、セレクションをどこまで伸ばすかを示
せばよい。これは図51と52に示されている。元のセ
レクションエンクロージャーが2つの境界を突き抜けて
情報を含むために伸ばされていることに注目。境界線は
この方法で突き抜けられると、もはや境界とは認められ
ず、周囲対象物とみなされる。周囲対象物は如何なる操
作中にも無視される。例えば、表のカラム間の周囲ライ
ンはロウを動かしても影響を受けない。図53と54に
おいて、ラインジェスチュア176はシステムに2つの
境界に影響を与えずにロウを動かすことを指示してい
る。周囲性は現在のセレクションの生命のためにのみ保
持される。
は単位とみなされるべき一群の図形対象物であり、リン
クは2つのノード間を通過する(結合する、接続する)
ラインである。リンクとノードは数学的(位相幾何学
的)構造を形成し、それは幾何学的構造よりも抽象的で
ある。つまり、位相幾何学はノードがどこに置かれてい
るか、あるいはリンクの形状等には関係せず、ノード間
のリンクのパターンがどのようなものであるかだけに関
係する。ユーザーはリンクを編集することにより位相幾
何を変更したいと望むかもしれないが、時には位相幾何
を保持しながら、(より明確にするため、あるいはより
整然とさせるため)線図の幾何学的配列を変更したいと
望むかもしれない。
かしたいと望む場合、そのノードから他のノードへのリ
ンクはリンク構造を維持するためにゆがめられ(造り直
され)なければならない。リンク対象物をゆがめること
は、それが接続するノードの新しい位置を適合させるた
めに、「引っ張り」ながら、その特徴的形状を保持する
リンクの形状の線形の幾何学的変形を含む。更に、移動
がそれを要求する場合、リンクの終了点はそのノードに
対して変更される。例えば、図55(a)は3つのノー
ド(A、B、C)と2つのリンク(A−B、A−C)を
持つ簡単な線図を示す。図55(b)は幾何学的に変更
された線図--ノードBとCの位置は保持され、ノードB
は少し下げられる--であるが、その位相幾何は保持され
る:AはB及びCに連接されている。リンクA−B及び
A−Cの特徴的な形状は保持されていることに注目。更
に、リンクA−Cは図55(a)のノードAの右側か
ら、及び図55(b)のノードAの左側から放射されて
いることに注目。
ドとしてディスプレー上の対象物を選択することができ
る。システムはこの形状を認識し、他の全ての組織化選
択のために行うのと全く同様に、描かれたジェスチュア
を完全に幾何学的な方形で置き換える。ノード選択は他
の組織化選択が持っていない1つの付加的な特徴を有す
る。ノード選択はそれがノードとして囲む全ての対象物
を選択し、セレクションから伸びる全てのラインはリン
クとして選択される。選択リンクはリンクがそれを横切
る場所のセレクション方形上の小さな円によって指示さ
れる。ユーザーは横断するラインがリンクとみなされる
べきか否かを変更することができる。例えば、図55
(c)は選択されたノードAと、リンクとして選択され
たラインA−Bを示すが、ラインA−Cはリンクとして
選択されていない。図55(d)はリンクを変更するた
めのジェスチュアを示す。小さな円を通るスラッシュジ
ェスチュアはラインA−Bのリンク状態を取り除き、ラ
インA−Cがセレクション方形を横切る場所の小さな円
ジェスチュアが、ラインA−Cをリンクとみなすように
変更する。これらの2つのジェスチュアの結果を図55
(e)に示す。ノードAが右側に動かされると、リンク
A−Cは接続を保持するためにゆがめられるが、ライン
A−Bは変更されず(なぜならそれはリンクと考えられ
ていないので)、AとBの間の接続は失われる。
と呼ばれる操作(メニューから利用できる)がある。一
セットの対象物が選択され、グループ分けされると、セ
レクションの中の全ての対象物は1つの対象物、グルー
プ対象物とみなされる。グループ対象物のユーザーにと
っての利点は、それに触るだけで、つまりドットジェス
チュアによって選択できることである。これはユーザー
がグループ対象物を操縦することを非常に容易にする。
線図の中のノードがグループ分けされる(しかしリンク
はグループ分けされない)と、線図は位相幾何を保持し
ながら容易に再配列される。更に、システムはどの対象
物がリンクを構成するか知っているので、リンクが適切
な方位でノードから放射する。
ンクではないストローク対象物に関する幾何学的変形を
実行するために、リンク湾曲可能性を使用できることで
ある。例えば、図55(g)は3つの文字対象物とそれ
らのまわりのストローク対象物を示す。文字対象物Cは
ノードとして選択されている。囲んでいるストローク対
象物が2つの場所でエンクロージャー方形と交差するの
で、それは「リンク」とみなされる。ラインジェスチュ
アはノード(C)が右に動かされることを示している。
しかし、それが動かされると、ストローク対象物はCに
従うために、図55(h)に示すように、ゆがめられ
る。この延長は陰組織化の原則を--構造が図形データに
固有のものではなく、むしろ構造はユーザーがデータの
中に見るものであり、ジェスチュアによってシステムに
見つけるように「告げる」ものであることを示してい
る。
スプレーにおいて、編集操作の相互適用(クロスアプリ
ケーション)をする際にある問題が生じる。図56はシ
ステムが境界として翻訳する縦線により分離された2つ
のリストを含むスクリーンを示す。このように、各々の
側のリストが別個に編集できる(例えば、Gailをリ
ストの一番上に移動させることができるであろう)。更
に両方のリストに影響を及ぼす操作もできる。図56は
Janeが選択され、”>”ジェスチュアがシステムに
BobとTomの間にJaneを移動させる--Gail
が上に上がり、TomとBillがこの移動を受け入れ
るように下に移動するように告げている。境界の各々の
側に構造があり、移動は完全に組織化されていることに
注目。
な事務所のフロアプランがある図57の場合を考えてみ
よう。フロアプランは自由形態の線図であり、構造では
ない。JaneをTomの事務所に移したいとしよう。
図56と同じジェスチュアを使用すれば、システムは線
図を適切に変更する方法を知らないであろう。システム
はそれをリストとして翻訳し、--最善の場合、Tomを
Billの事務所に移し、Billは事務所から追い出
されるであろうし;最悪の場合、線図の中の壁を移動さ
せ、混乱を招くであろう、この場合、システムは線図を
リストとしてグループ分けできないので操作を拒否する
であろう。このように、問題は自由形態としての線図を
如何に処理し、同時にリストをリストとして如何に処理
するかである。
る。選択ジェスチュアは移動ジェスチュアと異なるの
で、各々のジェスチュアは移動の各々の端で材料を如何
に処理すべきかを指示することができる。セレクション
を(括弧及びL字型)もしくは自由形態(ループ)で組
織化することができ、移動を(>もしくは∧)あるいは
自由形態(∨)で組織化することができる。これらはあ
らゆる可能性のある組合せで混合することができる。
ループジェスチュアで選択し、彼をJaneの前に組織
的に挿入する(>)。Tomは選択された自由形態であ
るので、彼を移動させても、線図においては何も変更さ
れない。Tomは組織的にリストに挿入されるので、J
aneとGailは下に移動する。図58を参照のこ
と。次にJaneを組織化アイテムとして選択し、線図
において自由形態の移動(∨)を指示する。Janeは
組織化されたセレクションなので、Gailが上に移動
する。移動は自由形態なので、Janeが空の事務所に
移動しても線図の中は何も移動しない。
テーションレベルを「整列する」(簡単なリストを片付
けるためにも使用できる)。同様の操作を表にも使用で
きる。問題は、表がきれいに配列されていることが少な
いことである。表はしばしばカラム様式で作成される。
人々はアイテムを1つのカラムに上から下へと書き進
み、次のカラムへと進む。その結果、ロウのアイテムは
きれいに整列されておらず、ロウを選択して移動させる
ことができない。解決法は水平の配列操作を作ることで
ある。全体の表を選択し、セレクションの上部で水平ジ
ェスチュアを作る。システムはセレクションを表として
分析し、各々のカラムのアイテムを左側のカラムのアイ
テムと水平に整列するように連続して移動させる。その
結果ロウ様式で操縦できるこぎれいな表が出来上がる。
図59はユーザーが作成した表を示し、図60はシステ
ムがそれを整列させた後の表を示す。整列にはスペーシ
ングが含まれ、ロウ及びカラムの縦と横の整列が含まれ
る。
た文字 このシステムはキーボードで文字をタイプ打ちすること
を可能にする。各々の文字はストロークと同様に自由形
態の図形対象物であり、つまりディスプレー上でxy位
置を占めるにすぎない。ストロークと同様に、それらは
自由形態として、あるいは使用されるジェスチュアに応
じて組織化されるものとして処理される。文字対象物及
びストローク対象物は混合することができる;例えば、
ユーザーはタイプされたテキストのラインにギリシャ文
字を手書きすることができる。
れらを選択することにより、(組織化されていない)自
由形態として処理することができる。この方法で選択さ
れた文字対象物が標準のピグテールジェスチュアで削除
されると、削除された文字対象物を囲む文字(及び他の
種類の)対象物は移動しない。(つまり、ストローク対
象物と全く同じ行為である。)同様に、文字対象物はど
こにでも移動することができ、他の文字またはストロー
ク対象物の上に置くこともできる。図61(a)、61
(b)を参照。
えば括弧やLジェスチュア)の1つによってそれらを選
択することにより、組織化されるものとして処理するこ
とができる。文字対象物がこの方法で選択されると、そ
れらはストローク対象物に関する組織化操作(つまり、
リスト、アウトライン、テキスト及び表と同様に操作で
きる。例えば、一連の水平に関連する文字対象物を括弧
ジェスチュアで選択することができ、それからラインジ
ェスチュアで別の場所に移動させることができる;文字
対象物は適当に閉じたり開いたりする。図61(c)及
び61(d)を参照。しかしながら、文字対象物が選択
された場合、それらは近くの文字対象物と整列するよう
に「ぷっつり切られる」という特別な処理をされる。
字DEFに移動させると、ABCは、基準線が整列し、
DEFがABCの真後ろにくるか、あるいはCとDの間
に正確に1つの通常の文字スペースが空くように、最も
適切な方法でDEFと整列するようにぷっつりと切られ
る。
集ができるように、追加操作が提供される。まず、ユー
ザーはタイプされた文字対象物をディスプレーのどこに
置くべきかをシステムに告げる方法を必要とする。この
ように、「タイプイン・ポイント」と呼ばれる特別な対
象物(小さな脱字記号型の対象物)がある。ユーザーは
ペンを用いたドットジェスチュアを作るか、もしくはマ
ウスボタンを指示または押すことにより、タイプイン・
ポイントを配置または再配置することができる。文字作
成キーボードのキーが押された時はいつでも、文字対象
物はタイプイン・ポイントの右側に置かれ、タイプイン
・ポイントは挿入された対象物の右側に移動される。こ
うして、一連のキーストロークが文字対象物の左右の連
続(シーケンス)を作り出す。
ターン、バックスペース)が押されると、特別動作が提
供される。スペースキーが押されると、タイプイン・ポ
イントが1文字スペースを右側に動かす。「スペース文
字」は作成されないことに注意;タイプイン・ポイント
を動かすだけである。(スペースキーを押すことは、マ
ウスでタイプイン・ポイントを再配置するのに等し
い。)タイプイン・ポイントがそのすぐ右側に文字対象
物を持っている場合、それらは新しい文字対象物のため
に場所を作るために右に押される。リターンキーを押す
と、タイプイン・ポイントを現在の文字列の左端の文字
の左に移動させ、次の文字が次のテキストラインに行く
ように1列下に移動させる(すぐ下に文字がある場合
は、それらは1列だけ下に押される)。タブキーはタイ
プイン・ポイントを上にある文字対象物と、それらの左
にスペースを置いて整列させるために右に移動させる;
配列が見つからない場合は、タイプイン・ポイントはデ
フォールトテーブル位置に移動する。タイプイン・ポイ
ントが境界に押されるか、あるいはディスプレーの右端
に押されると、それは(文字対象物に沿って、すぐ左
に)1列下にそして左に移動する、つまりテキストにと
って通常の「ラインラッピング」行為をする。同様に、
他の特別キー(例えば、バックスペース、ラインフィー
ド)が適切に定義された行為をする。
ーの一般に期待される能力及び行為を生み出す。しかし
ながら、文字対象物はどういう風に入力されようと、全
体的に自由形態である。例えば、ユーザーはタイプされ
たパラグラフの中央に一連の文字対象物をループ選択
し、それらを削除し、パラグラフの中央に空のスペース
を残すことができる。図61(e)、61(f)を参
照。ユーザーは更に、文字対象物を入力する方法とは異
なる組織化された方法で、それらを処理することができ
る。例えば、いくつかのテキストが左から右にタイプさ
れてあっても、文字対象物は(従来のテキストエディタ
ーの従来の「ストリング」構造等の)特別な左右関係を
持たない;同じテキストの一部がカラムとして選択さ
れ、文字対象物の2つのカラムが切り換えられる。図6
1(g)、61(h)を参照。これはテキストを処理す
る新規の柔軟な方法であり、それは自由形態の編集応用
例にとって適当なものである。
たが、発明の精神及び範囲内において多くの変形及び修
正が企図されることが当業者には自明であろう。好まし
い態様の図及び説明は例として取り上げたものであり、
発明の範囲を制限するものではなく、発明の精神及び範
囲の中に全ての変更及び修正を含むものである。
アベースの入力装置の1形態を示すブロック線図であ
る。
チュアを示すディスプレースクリーンの正面図である。
を示す図である。
操作の簡単なフローチャートを示す図である。
図である。
るジェスチュアを示す図である。
本的制御操作のフローチャートを示す図である。
を示す図である。
す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
示す図である。
ュアを示す図である。
ュアを示す図である。
ュアを示す図である。
ュアを示す図である。
ュアを示す図である。
ュアを示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
を示す図である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
である。
ード・リンク組織的操作及びジェスチュアを示す図であ
る。
ある。
する操作を示す図である。
する操作を示す図である。
する操作及びその行為を示す図である。
Claims (1)
- 【請求項1】 情報データのエントリーのためのスクリ
ーン指向ディスプレー処理システムであって、 ディスプレー手段を有し、 前記ディスプレー手段上に情報データを入力するための
データエントリー手段を有し、 前記ディスプレー上にジェスチュア的データを入力する
ためのジェスチュア入力手段を有し、該ジェスチュア的
データは前記情報データの少なくとも一部に関連するコ
マンドを前記ディスプレー上に表示し、 前記ジェスチュアを表示する操作を前記情報データの前
記一部に割り当てるため、前記ジェスチュアのエントリ
ーに応答する割当手段を有し、該割当手段は前記操作に
従って、前記情報をリスト、表、線図及びアウトライン
として選択的に定義する手段を含み、及び前記情報デー
タの前記一部に関して前記操作を実施するため前記割当
手段に応答する実施手段を有することを含むスクリーン
指向ディスプレー処理システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17615093A | 1993-12-30 | 1993-12-30 | |
US176150 | 1993-12-30 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH086707A true JPH086707A (ja) | 1996-01-12 |
Family
ID=22643195
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP32056994A Pending JPH086707A (ja) | 1993-12-30 | 1994-12-22 | スクリーン指向ディスプレー処理システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US6525749B1 (ja) |
EP (1) | EP0667567B1 (ja) |
JP (1) | JPH086707A (ja) |
CA (1) | CA2139256C (ja) |
DE (1) | DE69428675T2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11316642A (ja) * | 1998-01-12 | 1999-11-16 | Xerox Corp | フリ―フォ―ムグラフィックスシステムで使用するためのドメインオブジェクト |
JP2004206701A (ja) * | 2002-12-24 | 2004-07-22 | Fuji Xerox Co Ltd | 自由形状ペースト処理システム、方法及びプログラム |
JP2010122987A (ja) * | 2008-11-20 | 2010-06-03 | Canon Inc | オブジェクト処理装置、その処理方法及びプログラム |
JP2011209932A (ja) * | 2010-03-29 | 2011-10-20 | Ntt Docomo Inc | 携帯端末及び携帯端末における文字列表現変更方法 |
JP2012181881A (ja) * | 2012-06-28 | 2012-09-20 | Ntt Docomo Inc | 携帯端末及び携帯端末における文字列表現変更方法 |
JP2012208963A (ja) * | 2012-08-02 | 2012-10-25 | Canon Inc | 情報処理装置、情報処理装置の制御方法及びプログラム |
US8665222B2 (en) | 2003-01-30 | 2014-03-04 | Fujitsu Limited | Handwriting-input device and method |
Families Citing this family (268)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8352400B2 (en) | 1991-12-23 | 2013-01-08 | Hoffberg Steven M | Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore |
US5778401A (en) * | 1995-10-31 | 1998-07-07 | International Business Machines Corporation | Insertion bar |
US5861886A (en) * | 1996-06-26 | 1999-01-19 | Xerox Corporation | Method and apparatus for grouping graphic objects on a computer based system having a graphical user interface |
US5784061A (en) * | 1996-06-26 | 1998-07-21 | Xerox Corporation | Method and apparatus for collapsing and expanding selected regions on a work space of a computer controlled display system |
US5923323A (en) * | 1996-06-26 | 1999-07-13 | Xerox Corporation | Method and apparatus for organizing and displaying long lists of data items on a work space of a computer controlled display system |
US5914718A (en) * | 1996-06-26 | 1999-06-22 | Xerox Corporation | Method and apparatus for organizing a work space for a computer controlled display system using borders and regions |
US5889888A (en) | 1996-12-05 | 1999-03-30 | 3Com Corporation | Method and apparatus for immediate response handwriting recognition system that handles multiple character sets |
KR19990011180A (ko) * | 1997-07-22 | 1999-02-18 | 구자홍 | 화상인식을 이용한 메뉴 선택 방법 |
US6377288B1 (en) | 1998-01-12 | 2002-04-23 | Xerox Corporation | Domain objects having computed attribute values for use in a freeform graphics system |
US6018346A (en) * | 1998-01-12 | 2000-01-25 | Xerox Corporation | Freeform graphics system having meeting objects for supporting meeting objectives |
US9292111B2 (en) * | 1998-01-26 | 2016-03-22 | Apple Inc. | Gesturing with a multipoint sensing device |
US9239673B2 (en) | 1998-01-26 | 2016-01-19 | Apple Inc. | Gesturing with a multipoint sensing device |
US20060033724A1 (en) * | 2004-07-30 | 2006-02-16 | Apple Computer, Inc. | Virtual input device placement on a touch screen user interface |
US7808479B1 (en) | 2003-09-02 | 2010-10-05 | Apple Inc. | Ambidextrous mouse |
US8479122B2 (en) * | 2004-07-30 | 2013-07-02 | Apple Inc. | Gestures for touch sensitive input devices |
US7844914B2 (en) * | 2004-07-30 | 2010-11-30 | Apple Inc. | Activating virtual keys of a touch-screen virtual keyboard |
US7614008B2 (en) * | 2004-07-30 | 2009-11-03 | Apple Inc. | Operation of a computer with touch screen interface |
US7760187B2 (en) * | 2004-07-30 | 2010-07-20 | Apple Inc. | Visual expander |
US7663607B2 (en) | 2004-05-06 | 2010-02-16 | Apple Inc. | Multipoint touchscreen |
EP1717684A3 (en) | 1998-01-26 | 2008-01-23 | Fingerworks, Inc. | Method and apparatus for integrating manual input |
EP0965907A3 (en) | 1998-06-15 | 2000-12-20 | Xerox Corporation | A method and system for creating ad-hoc links from handwritten annotations |
US6429846B2 (en) * | 1998-06-23 | 2002-08-06 | Immersion Corporation | Haptic feedback for touchpads and other touch controls |
US20020018051A1 (en) * | 1998-09-15 | 2002-02-14 | Mona Singh | Apparatus and method for moving objects on a touchscreen display |
US7966078B2 (en) | 1999-02-01 | 2011-06-21 | Steven Hoffberg | Network media appliance system and method |
AUPQ439299A0 (en) * | 1999-12-01 | 1999-12-23 | Silverbrook Research Pty Ltd | Interface system |
AUPQ291299A0 (en) * | 1999-09-17 | 1999-10-07 | Silverbrook Research Pty Ltd | A self mapping surface and related applications |
US6822635B2 (en) * | 2000-01-19 | 2004-11-23 | Immersion Corporation | Haptic interface for laptop computers and other portable devices |
US7009626B2 (en) * | 2000-04-14 | 2006-03-07 | Picsel Technologies Limited | Systems and methods for generating visual representations of graphical data and digital document processing |
US7576730B2 (en) * | 2000-04-14 | 2009-08-18 | Picsel (Research) Limited | User interface systems and methods for viewing and manipulating digital documents |
US7055095B1 (en) * | 2000-04-14 | 2006-05-30 | Picsel Research Limited | Systems and methods for digital document processing |
GB2365189A (en) * | 2000-07-26 | 2002-02-13 | Canon Kk | Voice-controlled machine |
GB2365145A (en) * | 2000-07-26 | 2002-02-13 | Canon Kk | Voice control of a machine |
US7102628B2 (en) * | 2000-10-06 | 2006-09-05 | International Business Machines Corporation | Data steering flip pen system |
JP5039911B2 (ja) * | 2000-10-11 | 2012-10-03 | インターナショナル・ビジネス・マシーンズ・コーポレーション | データ処理装置、入出力装置、タッチパネルの制御方法、記憶媒体及びプログラム伝送装置 |
US6903730B2 (en) * | 2000-11-10 | 2005-06-07 | Microsoft Corporation | In-air gestures for electromagnetic coordinate digitizers |
US6941507B2 (en) | 2000-11-10 | 2005-09-06 | Microsoft Corporation | Insertion point bungee space tool |
US7272788B2 (en) * | 2000-12-29 | 2007-09-18 | Fotomedia Technologies, Llc | Client-server system for merging of metadata with images |
US7030861B1 (en) * | 2001-02-10 | 2006-04-18 | Wayne Carl Westerman | System and method for packing multi-touch gestures onto a hand |
US6883145B2 (en) * | 2001-02-15 | 2005-04-19 | Denny Jaeger | Arrow logic system for creating and operating control systems |
US20070083823A1 (en) * | 2001-02-15 | 2007-04-12 | Denny Jaeger | Scroll bar for computer display |
US20040034801A1 (en) * | 2001-02-15 | 2004-02-19 | Denny Jaeger | Method for creating and using computer passwords |
US7240300B2 (en) * | 2001-02-15 | 2007-07-03 | Nbor Corporation | Method for creating user-defined computer operations using arrows |
US6658147B2 (en) * | 2001-04-16 | 2003-12-02 | Parascript Llc | Reshaping freehand drawn lines and shapes in an electronic document |
US6690364B1 (en) * | 2001-05-31 | 2004-02-10 | Palm Source, Inc. | Method and system for on screen text correction via pen interface |
US7246321B2 (en) * | 2001-07-13 | 2007-07-17 | Anoto Ab | Editing data |
US7136082B2 (en) * | 2002-01-25 | 2006-11-14 | Xerox Corporation | Method and apparatus to convert digital ink images for use in a structured text/graphics editor |
US7028256B2 (en) * | 2002-05-10 | 2006-04-11 | Microsoft Corporation | Adding white space to a document generating adjusted page sizing |
US20030226113A1 (en) * | 2002-05-31 | 2003-12-04 | Microsoft Corporation | Automatic page size setting |
US11275405B2 (en) * | 2005-03-04 | 2022-03-15 | Apple Inc. | Multi-functional hand-held device |
US7656393B2 (en) | 2005-03-04 | 2010-02-02 | Apple Inc. | Electronic device having display and surrounding touch sensitive bezel for user interface and control |
EP1387291A3 (en) * | 2002-07-30 | 2005-10-19 | Canon Kabushiki Kaisha | Apparatus, method, recording medium and program for form processing |
US7137077B2 (en) * | 2002-07-30 | 2006-11-14 | Microsoft Corporation | Freeform encounter selection tool |
US7065718B2 (en) | 2002-08-08 | 2006-06-20 | International Business Machines Corporation | System and method for configuring time related settings using a graphical interface |
US7089507B2 (en) | 2002-08-12 | 2006-08-08 | International Business Machines Corporation | System and method for display views using a single stroke control |
US7221376B2 (en) | 2002-08-15 | 2007-05-22 | Microsoft Corporation | Space tool feedback by changing the displayed visual appearance of objects to be moved before deletion of displayed objects occurs |
US7406666B2 (en) * | 2002-08-26 | 2008-07-29 | Palm, Inc. | User-interface features for computers with contact-sensitive displays |
US20060188162A1 (en) * | 2002-10-31 | 2006-08-24 | Microsoft Corporation | Common interface for ink trees |
US20040090439A1 (en) * | 2002-11-07 | 2004-05-13 | Holger Dillner | Recognition and interpretation of graphical and diagrammatic representations |
GB2412989B (en) * | 2002-12-08 | 2007-02-14 | Immersion Corp | Methods and systems for providing a virtual touch haptic effect to handheld communication devices |
US8059088B2 (en) * | 2002-12-08 | 2011-11-15 | Immersion Corporation | Methods and systems for providing haptic messaging to handheld communication devices |
US20060136630A1 (en) * | 2002-12-08 | 2006-06-22 | Immersion Corporation, A Delaware Corporation | Methods and systems for providing haptic messaging to handheld communication devices |
US7554530B2 (en) * | 2002-12-23 | 2009-06-30 | Nokia Corporation | Touch screen user interface featuring stroke-based object selection and functional object activation |
CN100414559C (zh) | 2003-08-21 | 2008-08-27 | 微软公司 | 电子墨水处理方法和系统 |
KR100989011B1 (ko) * | 2003-08-21 | 2010-10-20 | 마이크로소프트 코포레이션 | 전자 잉크를 분석하기 위한 애플리케이션 프로그래밍 인터페이스를 포함하는 컴퓨터 판독가능 기록 매체, 전자 잉크 분석 방법 및 분석 콘텍스트 대상 생성 방법 |
US7324691B2 (en) * | 2003-09-24 | 2008-01-29 | Microsoft Corporation | System and method for shape recognition of hand-drawn objects |
US7295708B2 (en) * | 2003-09-24 | 2007-11-13 | Microsoft Corporation | System and method for detecting a list in ink input |
US7352902B2 (en) * | 2003-09-24 | 2008-04-01 | Microsoft Corporation | System and method for detecting a hand-drawn object in ink input |
US20050068312A1 (en) * | 2003-09-26 | 2005-03-31 | Denny Jaeger | Method for programming a graphic control device with numeric and textual characters |
US8442331B2 (en) | 2004-02-15 | 2013-05-14 | Google Inc. | Capturing text from rendered documents using supplemental information |
US7707039B2 (en) | 2004-02-15 | 2010-04-27 | Exbiblio B.V. | Automatic modification of web pages |
US7812860B2 (en) * | 2004-04-01 | 2010-10-12 | Exbiblio B.V. | Handheld device for capturing text from both a document printed on paper and a document displayed on a dynamic display device |
US20060053097A1 (en) * | 2004-04-01 | 2006-03-09 | King Martin T | Searching and accessing documents on private networks for use with captures from rendered documents |
US20060041484A1 (en) * | 2004-04-01 | 2006-02-23 | King Martin T | Methods and systems for initiating application processes by data capture from rendered documents |
US20060041605A1 (en) * | 2004-04-01 | 2006-02-23 | King Martin T | Determining actions involving captured information and electronic content associated with rendered documents |
US10635723B2 (en) | 2004-02-15 | 2020-04-28 | Google Llc | Search engines and systems with handheld document data capture devices |
US20060122983A1 (en) * | 2004-12-03 | 2006-06-08 | King Martin T | Locating electronic instances of documents based on rendered instances, document fragment digest generation, and digest based document fragment determination |
US7161598B2 (en) * | 2004-02-26 | 2007-01-09 | Research In Motion Limited | Method of rendering text on an output device |
US20070300142A1 (en) * | 2005-04-01 | 2007-12-27 | King Martin T | Contextual dynamic advertising based upon captured rendered text |
US20060098900A1 (en) * | 2004-09-27 | 2006-05-11 | King Martin T | Secure data gathering from rendered documents |
US7894670B2 (en) | 2004-04-01 | 2011-02-22 | Exbiblio B.V. | Triggering actions in response to optically or acoustically capturing keywords from a rendered document |
US9116890B2 (en) | 2004-04-01 | 2015-08-25 | Google Inc. | Triggering actions in response to optically or acoustically capturing keywords from a rendered document |
US7990556B2 (en) | 2004-12-03 | 2011-08-02 | Google Inc. | Association of a portable scanner with input/output and storage devices |
US20060081714A1 (en) * | 2004-08-23 | 2006-04-20 | King Martin T | Portable scanning device |
US9008447B2 (en) | 2004-04-01 | 2015-04-14 | Google Inc. | Method and system for character recognition |
US9143638B2 (en) | 2004-04-01 | 2015-09-22 | Google Inc. | Data capture from rendered documents using handheld device |
US20080313172A1 (en) * | 2004-12-03 | 2008-12-18 | King Martin T | Determining actions involving captured information and electronic content associated with rendered documents |
US8146156B2 (en) | 2004-04-01 | 2012-03-27 | Google Inc. | Archive of text captures from rendered documents |
US8081849B2 (en) * | 2004-12-03 | 2011-12-20 | Google Inc. | Portable scanning and memory device |
US8713418B2 (en) * | 2004-04-12 | 2014-04-29 | Google Inc. | Adding value to a rendered document |
US8620083B2 (en) | 2004-12-03 | 2013-12-31 | Google Inc. | Method and system for character recognition |
US8489624B2 (en) | 2004-05-17 | 2013-07-16 | Google, Inc. | Processing techniques for text capture from a rendered document |
US8874504B2 (en) | 2004-12-03 | 2014-10-28 | Google Inc. | Processing techniques for visual capture data from a rendered document |
US7788606B2 (en) * | 2004-06-14 | 2010-08-31 | Sas Institute Inc. | Computer-implemented system and method for defining graphics primitives |
US20060001656A1 (en) * | 2004-07-02 | 2006-01-05 | Laviola Joseph J Jr | Electronic ink system |
US8346620B2 (en) | 2004-07-19 | 2013-01-01 | Google Inc. | Automatic modification of web pages |
US8381135B2 (en) | 2004-07-30 | 2013-02-19 | Apple Inc. | Proximity detector in handheld device |
US7653883B2 (en) | 2004-07-30 | 2010-01-26 | Apple Inc. | Proximity detector in handheld device |
CN100555200C (zh) | 2004-08-16 | 2009-10-28 | 苹果公司 | 触敏器件和提高触敏器件的空间分辨率的方法 |
US7409088B2 (en) * | 2004-09-21 | 2008-08-05 | Microsoft Corporation | System and method for connectivity-based recognition of a hand-drawn chart in ink input |
US7904810B2 (en) * | 2004-09-21 | 2011-03-08 | Microsoft Corporation | System and method for editing a hand-drawn list in ink input |
US7412094B2 (en) * | 2004-09-21 | 2008-08-12 | Microsoft Corporation | System and method for editing a hand-drawn table in ink input |
US7503015B2 (en) * | 2004-09-21 | 2009-03-10 | Microsoft Corporation | System and method for editing ink objects |
US7440616B2 (en) * | 2004-09-21 | 2008-10-21 | Microsoft Corporation | System and method for recognition of a hand-drawn chart in ink input |
US7400771B2 (en) * | 2004-09-21 | 2008-07-15 | Microsoft Corporation | System and method for connected container recognition of a hand-drawn chart in ink input |
US7394935B2 (en) * | 2004-09-21 | 2008-07-01 | Microsoft Corporation | System and method for editing a hand-drawn chart in ink input |
US7394936B2 (en) * | 2004-09-21 | 2008-07-01 | Microsoft Corporation | System and method for curve recognition in a hand-drawn chart in ink input |
US7506245B2 (en) * | 2004-09-27 | 2009-03-17 | Nbor Corporation | Method for performing a load-on-demand operation on assigned graphic objects in a computer operating environment |
US8169410B2 (en) * | 2004-10-20 | 2012-05-01 | Nintendo Co., Ltd. | Gesture inputs for a portable display device |
US7583819B2 (en) * | 2004-11-05 | 2009-09-01 | Kyprianos Papademetriou | Digital signal processing methods, systems and computer program products that identify threshold positions and values |
KR102058832B1 (ko) * | 2005-03-04 | 2019-12-23 | 애플 인크. | 다기능 휴대용 장치 |
US20060267967A1 (en) * | 2005-05-24 | 2006-11-30 | Microsoft Corporation | Phrasing extensions and multiple modes in one spring-loaded control |
KR100703331B1 (ko) * | 2005-06-01 | 2007-04-03 | 삼성전자주식회사 | 문자 입력에 대해 비주얼 효과를 부여하는 문자 입력 방법및 이를 위한 이동 단말기 |
US7294089B2 (en) * | 2005-08-15 | 2007-11-13 | Ford Global Technologies, Llc | Multiple-speed automatic transmission |
US7636794B2 (en) * | 2005-10-31 | 2009-12-22 | Microsoft Corporation | Distributed sensing techniques for mobile devices |
US8643605B2 (en) | 2005-11-21 | 2014-02-04 | Core Wireless Licensing S.A.R.L | Gesture based document editor |
US8018440B2 (en) | 2005-12-30 | 2011-09-13 | Microsoft Corporation | Unintentional touch rejection |
US20070188473A1 (en) * | 2006-02-14 | 2007-08-16 | Picsel Research Limited | System and methods for document navigation |
US7817991B2 (en) * | 2006-02-14 | 2010-10-19 | Microsoft Corporation | Dynamic interconnection of mobile devices |
US7538760B2 (en) * | 2006-03-30 | 2009-05-26 | Apple Inc. | Force imaging input device and system |
US7511702B2 (en) * | 2006-03-30 | 2009-03-31 | Apple Inc. | Force and location sensitive display |
KR20070113018A (ko) * | 2006-05-24 | 2007-11-28 | 엘지전자 주식회사 | 터치스크린 장치 및 그 실행방법 |
KR101327581B1 (ko) * | 2006-05-24 | 2013-11-12 | 엘지전자 주식회사 | 터치스크린 장치 및 이의 작동방법 |
US20090213086A1 (en) * | 2006-04-19 | 2009-08-27 | Ji Suk Chae | Touch screen device and operating method thereof |
KR20070113022A (ko) * | 2006-05-24 | 2007-11-28 | 엘지전자 주식회사 | 사용자 입력에 반응하는 터치스크린 장치 및 이의 작동방법 |
KR20070113025A (ko) * | 2006-05-24 | 2007-11-28 | 엘지전자 주식회사 | 터치스크린 장치 및 이의 작동방법 |
TWI328185B (en) * | 2006-04-19 | 2010-08-01 | Lg Electronics Inc | Touch screen device for potable terminal and method of displaying and selecting menus thereon |
KR101269375B1 (ko) | 2006-05-24 | 2013-05-29 | 엘지전자 주식회사 | 터치스크린 장치 및 이의 이미지 표시방법 |
US7978181B2 (en) * | 2006-04-25 | 2011-07-12 | Apple Inc. | Keystroke tactility arrangement on a smooth touch surface |
US8279180B2 (en) | 2006-05-02 | 2012-10-02 | Apple Inc. | Multipoint touch surface controller |
TW200805131A (en) * | 2006-05-24 | 2008-01-16 | Lg Electronics Inc | Touch screen device and method of selecting files thereon |
CN104965621B (zh) | 2006-06-09 | 2018-06-12 | 苹果公司 | 触摸屏液晶显示器及其操作方法 |
US8552989B2 (en) * | 2006-06-09 | 2013-10-08 | Apple Inc. | Integrated display and touch screen |
EP2027524B1 (en) | 2006-06-09 | 2011-11-23 | Apple Inc. | Touch screen liquid crystal display |
US7934156B2 (en) * | 2006-09-06 | 2011-04-26 | Apple Inc. | Deletion gestures on a portable multifunction device |
EP2067119A2 (en) | 2006-09-08 | 2009-06-10 | Exbiblio B.V. | Optical scanners, such as hand-held optical scanners |
US7856605B2 (en) | 2006-10-26 | 2010-12-21 | Apple Inc. | Method, system, and graphical user interface for positioning an insertion marker in a touch screen display |
US8570278B2 (en) | 2006-10-26 | 2013-10-29 | Apple Inc. | Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker |
US8493330B2 (en) * | 2007-01-03 | 2013-07-23 | Apple Inc. | Individual channel phase delay scheme |
US9710095B2 (en) | 2007-01-05 | 2017-07-18 | Apple Inc. | Touch screen stack-ups |
US7877707B2 (en) | 2007-01-06 | 2011-01-25 | Apple Inc. | Detecting and interpreting real-world and security gestures on touch and hover sensitive devices |
US8091045B2 (en) * | 2007-01-07 | 2012-01-03 | Apple Inc. | System and method for managing lists |
US9817436B2 (en) * | 2007-01-07 | 2017-11-14 | Apple Inc. | Portable multifunction device, method, and graphical user interface for displaying user interface objects adaptively |
EP2132756B1 (en) * | 2007-03-15 | 2016-11-09 | Yazaki Corporation | Capacitor electrodes comprising carbon nanotubes filled with one or more non-carbon materials |
US8065603B2 (en) * | 2007-04-30 | 2011-11-22 | Google Inc. | Hiding portions of display content |
US8370755B2 (en) * | 2007-12-27 | 2013-02-05 | Core Wireless Licensing S.A.R.L. | User interface controlled by environmental cues |
US8650507B2 (en) | 2008-03-04 | 2014-02-11 | Apple Inc. | Selecting of text using gestures |
US8201109B2 (en) * | 2008-03-04 | 2012-06-12 | Apple Inc. | Methods and graphical user interfaces for editing on a portable multifunction device |
WO2009114009A1 (en) * | 2008-03-11 | 2009-09-17 | Hewlett-Packard Development Company, L.P. | Systems and methods of processing touchpad input |
US9058067B2 (en) * | 2008-04-03 | 2015-06-16 | Livescribe | Digital bookclip |
US8665228B2 (en) | 2008-06-19 | 2014-03-04 | Tactile Displays, Llc | Energy efficient interactive display with energy regenerative keyboard |
US9513705B2 (en) | 2008-06-19 | 2016-12-06 | Tactile Displays, Llc | Interactive display with tactile feedback |
US8217908B2 (en) | 2008-06-19 | 2012-07-10 | Tactile Displays, Llc | Apparatus and method for interactive display with tactile feedback |
US8115745B2 (en) | 2008-06-19 | 2012-02-14 | Tactile Displays, Llc | Apparatus and method for interactive display with tactile feedback |
US8826174B2 (en) | 2008-06-27 | 2014-09-02 | Microsoft Corporation | Using visual landmarks to organize diagrams |
DE112008004156B4 (de) | 2008-12-15 | 2021-06-24 | Hewlett-Packard Development Company, L.P. | System und verfahren für einen gestenbasierten editiermodus und computerlesbares medium hierfür |
US8319736B2 (en) * | 2009-01-19 | 2012-11-27 | Microsoft Corporation | Touch sensitive computing device and method |
US9069398B1 (en) * | 2009-01-30 | 2015-06-30 | Cellco Partnership | Electronic device having a touch panel display and a method for operating the same |
EP2399385B1 (en) | 2009-02-18 | 2019-11-06 | Google LLC | Automatically capturing information, such as capturing information using a document-aware device |
US8447066B2 (en) | 2009-03-12 | 2013-05-21 | Google Inc. | Performing actions based on capturing information from rendered documents, such as documents under copyright |
CN102349087B (zh) | 2009-03-12 | 2015-05-06 | 谷歌公司 | 自动提供与捕获的信息例如实时捕获的信息关联的内容 |
US9846533B2 (en) * | 2009-03-16 | 2017-12-19 | Apple Inc. | Methods and graphical user interfaces for editing on a multifunction device with a touch screen display |
US9250788B2 (en) * | 2009-03-18 | 2016-02-02 | IdentifyMine, Inc. | Gesture handlers of a gesture engine |
US20100281435A1 (en) * | 2009-04-30 | 2010-11-04 | At&T Intellectual Property I, L.P. | System and method for multimodal interaction using robust gesture processing |
US8836648B2 (en) * | 2009-05-27 | 2014-09-16 | Microsoft Corporation | Touch pull-in gesture |
US8654524B2 (en) | 2009-08-17 | 2014-02-18 | Apple Inc. | Housing as an I/O device |
US9081799B2 (en) | 2009-12-04 | 2015-07-14 | Google Inc. | Using gestalt information to identify locations in printed information |
US9323784B2 (en) | 2009-12-09 | 2016-04-26 | Google Inc. | Image search using text-based elements within the contents of images |
CN102103593B (zh) * | 2009-12-18 | 2012-10-31 | 北大方正集团有限公司 | 一种文字的笔画拆分排版方法及系统 |
US9207765B2 (en) * | 2009-12-31 | 2015-12-08 | Microsoft Technology Licensing, Llc | Recognizing interactive media input |
US8786559B2 (en) * | 2010-01-06 | 2014-07-22 | Apple Inc. | Device, method, and graphical user interface for manipulating tables using multi-contact gestures |
US8239785B2 (en) * | 2010-01-27 | 2012-08-07 | Microsoft Corporation | Edge gestures |
US20110185320A1 (en) * | 2010-01-28 | 2011-07-28 | Microsoft Corporation | Cross-reference Gestures |
US20110185299A1 (en) * | 2010-01-28 | 2011-07-28 | Microsoft Corporation | Stamp Gestures |
US8261213B2 (en) | 2010-01-28 | 2012-09-04 | Microsoft Corporation | Brush, carbon-copy, and fill gestures |
US9411504B2 (en) | 2010-01-28 | 2016-08-09 | Microsoft Technology Licensing, Llc | Copy and staple gestures |
US9519356B2 (en) * | 2010-02-04 | 2016-12-13 | Microsoft Technology Licensing, Llc | Link gestures |
US20110191719A1 (en) * | 2010-02-04 | 2011-08-04 | Microsoft Corporation | Cut, Punch-Out, and Rip Gestures |
US20110191704A1 (en) * | 2010-02-04 | 2011-08-04 | Microsoft Corporation | Contextual multiplexing gestures |
US9367205B2 (en) | 2010-02-19 | 2016-06-14 | Microsoft Technolgoy Licensing, Llc | Radial menus with bezel gestures |
US9965165B2 (en) * | 2010-02-19 | 2018-05-08 | Microsoft Technology Licensing, Llc | Multi-finger gestures |
US9310994B2 (en) | 2010-02-19 | 2016-04-12 | Microsoft Technology Licensing, Llc | Use of bezel as an input mechanism |
US8799827B2 (en) * | 2010-02-19 | 2014-08-05 | Microsoft Corporation | Page manipulations using on and off-screen gestures |
US9274682B2 (en) * | 2010-02-19 | 2016-03-01 | Microsoft Technology Licensing, Llc | Off-screen gestures to create on-screen input |
US8751970B2 (en) * | 2010-02-25 | 2014-06-10 | Microsoft Corporation | Multi-screen synchronous slide gesture |
US8473870B2 (en) | 2010-02-25 | 2013-06-25 | Microsoft Corporation | Multi-screen hold and drag gesture |
US20110209089A1 (en) * | 2010-02-25 | 2011-08-25 | Hinckley Kenneth P | Multi-screen object-hold and page-change gesture |
US20110209058A1 (en) * | 2010-02-25 | 2011-08-25 | Microsoft Corporation | Multi-screen hold and tap gesture |
US8707174B2 (en) * | 2010-02-25 | 2014-04-22 | Microsoft Corporation | Multi-screen hold and page-flip gesture |
US9454304B2 (en) * | 2010-02-25 | 2016-09-27 | Microsoft Technology Licensing, Llc | Multi-screen dual tap gesture |
US9075522B2 (en) * | 2010-02-25 | 2015-07-07 | Microsoft Technology Licensing, Llc | Multi-screen bookmark hold gesture |
US8539384B2 (en) | 2010-02-25 | 2013-09-17 | Microsoft Corporation | Multi-screen pinch and expand gestures |
US20110209101A1 (en) * | 2010-02-25 | 2011-08-25 | Hinckley Kenneth P | Multi-screen pinch-to-pocket gesture |
US10719131B2 (en) | 2010-04-05 | 2020-07-21 | Tactile Displays, Llc | Interactive display with tactile feedback |
US20200393907A1 (en) | 2010-04-13 | 2020-12-17 | Tactile Displays, Llc | Interactive display with tactile feedback |
US8635555B2 (en) | 2010-06-08 | 2014-01-21 | Adobe Systems Incorporated | Jump, checkmark, and strikethrough gestures |
US20110304556A1 (en) * | 2010-06-09 | 2011-12-15 | Microsoft Corporation | Activate, fill, and level gestures |
US8370767B2 (en) | 2010-06-22 | 2013-02-05 | Microsoft Corporation | List authoring surface |
US8773370B2 (en) * | 2010-07-13 | 2014-07-08 | Apple Inc. | Table editing systems with gesture-based insertion and deletion of columns and rows |
US8887038B2 (en) * | 2010-10-08 | 2014-11-11 | Business Objects Software Limited | Extrapolating tabular structure in a freeform document |
US20120092269A1 (en) * | 2010-10-15 | 2012-04-19 | Hon Hai Precision Industry Co., Ltd. | Computer-implemented method for manipulating onscreen data |
US20120159395A1 (en) | 2010-12-20 | 2012-06-21 | Microsoft Corporation | Application-launching interface for multiple modes |
US8804056B2 (en) * | 2010-12-22 | 2014-08-12 | Apple Inc. | Integrated touch screens |
US8689123B2 (en) | 2010-12-23 | 2014-04-01 | Microsoft Corporation | Application reporting in an application-selectable user interface |
US8612874B2 (en) | 2010-12-23 | 2013-12-17 | Microsoft Corporation | Presenting an application change through a tile |
US9785335B2 (en) * | 2010-12-27 | 2017-10-10 | Sling Media Inc. | Systems and methods for adaptive gesture recognition |
US9223471B2 (en) | 2010-12-28 | 2015-12-29 | Microsoft Technology Licensing, Llc | Touch screen control |
JP5650564B2 (ja) * | 2011-03-01 | 2015-01-07 | 株式会社ユビキタスエンターテインメント | スプレッドシート制御プログラム、スプレッドシート制御装置及びスプレッドシートの制御方法 |
US8793624B2 (en) * | 2011-05-18 | 2014-07-29 | Google Inc. | Control of a device using gestures |
US9158445B2 (en) | 2011-05-27 | 2015-10-13 | Microsoft Technology Licensing, Llc | Managing an immersive interface in a multi-application immersive environment |
US9658766B2 (en) | 2011-05-27 | 2017-05-23 | Microsoft Technology Licensing, Llc | Edge gesture |
US9104307B2 (en) | 2011-05-27 | 2015-08-11 | Microsoft Technology Licensing, Llc | Multi-application environment |
US9104440B2 (en) | 2011-05-27 | 2015-08-11 | Microsoft Technology Licensing, Llc | Multi-application environment |
US8893033B2 (en) | 2011-05-27 | 2014-11-18 | Microsoft Corporation | Application notifications |
US8677232B2 (en) | 2011-05-31 | 2014-03-18 | Apple Inc. | Devices, methods, and graphical user interfaces for document manipulation |
US20130057587A1 (en) | 2011-09-01 | 2013-03-07 | Microsoft Corporation | Arranging tiles |
US9146670B2 (en) | 2011-09-10 | 2015-09-29 | Microsoft Technology Licensing, Llc | Progressively indicating new content in an application-selectable user interface |
US9612670B2 (en) | 2011-09-12 | 2017-04-04 | Microsoft Technology Licensing, Llc | Explicit touch selection and cursor placement |
US10192176B2 (en) | 2011-10-11 | 2019-01-29 | Microsoft Technology Licensing, Llc | Motivation of task completion and personalization of tasks and lists |
US9251144B2 (en) * | 2011-10-19 | 2016-02-02 | Microsoft Technology Licensing, Llc | Translating language characters in media content |
JP5862260B2 (ja) * | 2011-12-09 | 2016-02-16 | 富士ゼロックス株式会社 | 情報処理装置及び情報処理プログラム |
CN104067292B (zh) | 2012-01-23 | 2017-05-03 | 微软技术许可有限责任公司 | 公式检测引擎 |
US20130201161A1 (en) * | 2012-02-03 | 2013-08-08 | John E. Dolan | Methods, Systems and Apparatus for Digital-Marking-Surface Content-Unit Manipulation |
US9400592B2 (en) | 2012-03-26 | 2016-07-26 | Sharp Laboratories Of America, Inc. | Methods, systems and apparatus for digital-marking-surface space and display management |
US9323443B2 (en) * | 2012-05-02 | 2016-04-26 | International Business Machines Corporation | Drilling of displayed content in a touch screen device |
US9229539B2 (en) * | 2012-06-07 | 2016-01-05 | Microsoft Technology Licensing, Llc | Information triage using screen-contacting gestures |
CN102768617B (zh) * | 2012-06-29 | 2016-12-28 | 惠州Tcl移动通信有限公司 | 手持式电子设备及基于触摸屏的列表项编辑的方法 |
CN102799367B (zh) * | 2012-06-29 | 2015-05-13 | 鸿富锦精密工业(深圳)有限公司 | 电子设备及其触摸控制方法 |
US20140002377A1 (en) * | 2012-07-02 | 2014-01-02 | Microsoft Corporation | Manipulating content on a canvas with touch gestures |
US9557846B2 (en) | 2012-10-04 | 2017-01-31 | Corning Incorporated | Pressure-sensing touch system utilizing optical and capacitive systems |
US9582122B2 (en) | 2012-11-12 | 2017-02-28 | Microsoft Technology Licensing, Llc | Touch-sensitive bezel techniques |
KR20140068595A (ko) * | 2012-11-28 | 2014-06-09 | 삼성디스플레이 주식회사 | 단말기 및 그의 조작 방법 |
TW201426511A (zh) * | 2012-12-27 | 2014-07-01 | Au Optronics Corp | 顯示器系統及其控制方法 |
KR102004884B1 (ko) | 2013-01-07 | 2019-07-29 | 삼성전자주식회사 | 전자 장치에서 움직이는 사진 제어 장치 및 방법 |
US9047268B2 (en) | 2013-01-31 | 2015-06-02 | Google Inc. | Character and word level language models for out-of-vocabulary text input |
US9454240B2 (en) | 2013-02-05 | 2016-09-27 | Google Inc. | Gesture keyboard input of non-dictionary character strings |
US9330070B2 (en) | 2013-03-11 | 2016-05-03 | Microsoft Technology Licensing, Llc | Detection and reconstruction of east asian layout features in a fixed format document |
KR101337872B1 (ko) * | 2013-04-04 | 2013-12-06 | 주식회사 디오텍 | 잉크 텍스트 데이터 편집장치 및 잉크 텍스트 데이터 편집방법 |
US8756499B1 (en) * | 2013-04-29 | 2014-06-17 | Google Inc. | Gesture keyboard input of non-dictionary character strings using substitute scoring |
KR20140139247A (ko) * | 2013-05-27 | 2014-12-05 | 삼성전자주식회사 | 오브젝트 운용 방법 및 그 전자 장치 |
KR20150009199A (ko) | 2013-07-16 | 2015-01-26 | 삼성전자주식회사 | 객체 편집을 위한 전자 장치 및 방법 |
US9811238B2 (en) | 2013-08-29 | 2017-11-07 | Sharp Laboratories Of America, Inc. | Methods and systems for interacting with a digital marking surface |
US9977772B1 (en) * | 2013-09-24 | 2018-05-22 | Mehrdad Samadani | Method and system for cellular text processor and display |
US9507520B2 (en) | 2013-12-16 | 2016-11-29 | Microsoft Technology Licensing, Llc | Touch-based reorganization of page element |
US9477337B2 (en) | 2014-03-14 | 2016-10-25 | Microsoft Technology Licensing, Llc | Conductive trace routing for display and bezel sensors |
US10078411B2 (en) | 2014-04-02 | 2018-09-18 | Microsoft Technology Licensing, Llc | Organization mode support mechanisms |
US10318613B2 (en) | 2015-08-25 | 2019-06-11 | Myscript | System and method of digital note taking |
US10210383B2 (en) | 2015-09-03 | 2019-02-19 | Microsoft Technology Licensing, Llc | Interacting with an assistant component based on captured stroke information |
US10387034B2 (en) * | 2015-09-03 | 2019-08-20 | Microsoft Technology Licensing, Llc | Modifying captured stroke information into an actionable form |
US10643067B2 (en) | 2015-10-19 | 2020-05-05 | Myscript | System and method of handwriting recognition in diagrams |
US10417491B2 (en) | 2015-10-19 | 2019-09-17 | Myscript | System and method for recognition of handwritten diagram connectors |
US11500535B2 (en) | 2015-10-29 | 2022-11-15 | Lenovo (Singapore) Pte. Ltd. | Two stroke quick input selection |
US11275499B2 (en) * | 2016-06-10 | 2022-03-15 | Apple Inc. | Device, method, and graphical user interface for changing a number of columns of an application region |
US10637986B2 (en) | 2016-06-10 | 2020-04-28 | Apple Inc. | Displaying and updating a set of application views |
WO2018109084A1 (en) | 2016-12-15 | 2018-06-21 | Myscript | System and method for management of handwritten diagram connectors |
US10613748B2 (en) * | 2017-10-03 | 2020-04-07 | Google Llc | Stylus assist |
US11131967B2 (en) | 2019-05-06 | 2021-09-28 | Apple Inc. | Clock faces for an electronic device |
EP3736677A1 (en) | 2019-05-10 | 2020-11-11 | MyScript | A method and corresponding device for selecting and editing handwriting input elements |
US11379113B2 (en) | 2019-06-01 | 2022-07-05 | Apple Inc. | Techniques for selecting text |
US11074408B2 (en) | 2019-06-01 | 2021-07-27 | Apple Inc. | Mail application features |
EP3754537B1 (en) | 2019-06-20 | 2024-05-22 | MyScript | Processing text handwriting input in a free handwriting mode |
EP3772015B1 (en) | 2019-07-31 | 2023-11-08 | MyScript | Text line extraction |
EP3796145B1 (en) | 2019-09-19 | 2024-07-03 | MyScript | A method and correspond device for selecting graphical objects |
US11257396B2 (en) * | 2020-03-18 | 2022-02-22 | Sas Institute Inc. | User interfaces for converting geospatial data into audio outputs |
US11822896B2 (en) | 2020-07-08 | 2023-11-21 | International Business Machines Corporation | Contextual diagram-text alignment through machine learning |
US12072925B2 (en) * | 2021-03-19 | 2024-08-27 | Google Llc | Visual search via free-form visual feature selection |
US20230315271A1 (en) * | 2022-03-18 | 2023-10-05 | Sony Group Corporation | Collaborative whiteboard for meetings |
US11460973B1 (en) | 2022-04-11 | 2022-10-04 | Sas Institute Inc:. | User interfaces for converting node-link data into audio outputs |
US20240176482A1 (en) * | 2022-11-29 | 2024-05-30 | Microsoft Technology Licensing, Llc | Gesture Based Space Adjustment for Editing |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5181129A (en) * | 1989-03-17 | 1993-01-19 | Hitachi, Ltd. | Electronic blackboard |
US5347295A (en) * | 1990-10-31 | 1994-09-13 | Go Corporation | Control of a computer through a position-sensed stylus |
US5231698A (en) * | 1991-03-20 | 1993-07-27 | Forcier Mitchell D | Script/binary-encoded-character processing method and system |
US5220649A (en) * | 1991-03-20 | 1993-06-15 | Forcier Mitchell D | Script/binary-encoded-character processing method and system with moving space insertion mode |
CA2089784C (en) * | 1992-04-15 | 1996-12-24 | William Joseph Anderson | Apparatus and method for disambiguating an input stream generated by a stylus-based user interface |
-
1994
- 1994-12-22 JP JP32056994A patent/JPH086707A/ja active Pending
- 1994-12-22 DE DE69428675T patent/DE69428675T2/de not_active Expired - Lifetime
- 1994-12-22 EP EP94309699A patent/EP0667567B1/en not_active Expired - Lifetime
- 1994-12-29 CA CA2139256A patent/CA2139256C/en not_active Expired - Lifetime
-
1996
- 1996-10-25 US US08/736,883 patent/US6525749B1/en not_active Expired - Fee Related
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11316642A (ja) * | 1998-01-12 | 1999-11-16 | Xerox Corp | フリ―フォ―ムグラフィックスシステムで使用するためのドメインオブジェクト |
JP2004206701A (ja) * | 2002-12-24 | 2004-07-22 | Fuji Xerox Co Ltd | 自由形状ペースト処理システム、方法及びプログラム |
US8665222B2 (en) | 2003-01-30 | 2014-03-04 | Fujitsu Limited | Handwriting-input device and method |
JP2010122987A (ja) * | 2008-11-20 | 2010-06-03 | Canon Inc | オブジェクト処理装置、その処理方法及びプログラム |
JP2011209932A (ja) * | 2010-03-29 | 2011-10-20 | Ntt Docomo Inc | 携帯端末及び携帯端末における文字列表現変更方法 |
JP2012181881A (ja) * | 2012-06-28 | 2012-09-20 | Ntt Docomo Inc | 携帯端末及び携帯端末における文字列表現変更方法 |
JP2012208963A (ja) * | 2012-08-02 | 2012-10-25 | Canon Inc | 情報処理装置、情報処理装置の制御方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP0667567A3 (en) | 1996-01-17 |
DE69428675D1 (de) | 2001-11-22 |
CA2139256A1 (en) | 1995-07-01 |
EP0667567A2 (en) | 1995-08-16 |
EP0667567B1 (en) | 2001-10-17 |
US6525749B1 (en) | 2003-02-25 |
CA2139256C (en) | 2010-10-05 |
DE69428675T2 (de) | 2002-05-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0667567B1 (en) | Apparatus and method for supporting the implicit structure of freeform lists, outlines, text, tables, and diagrams in a gesture-based input system and editing system | |
US5880743A (en) | Apparatus and method for implementing visual animation illustrating results of interactive editing operations | |
US6097392A (en) | Method and system of altering an attribute of a graphic object in a pen environment | |
US6434581B1 (en) | Script character processing method for interactively adjusting space between writing element | |
US6502114B1 (en) | Script character processing method for determining word boundaries and interactively editing ink strokes using editing gestures | |
US6499043B1 (en) | Script character processing method and system | |
US6891551B2 (en) | Selection handles in editing electronic documents | |
US5471578A (en) | Apparatus and method for altering enclosure selections in a gesture based input system | |
US5500935A (en) | Apparatus and method for translating graphic objects and commands with direct touch input in a touch based input system | |
US5809267A (en) | Apparatus and method for executing multiple-concatenated command gestures in a gesture based input system | |
US5347295A (en) | Control of a computer through a position-sensed stylus | |
EP0597379B1 (en) | Pen input processing apparatus | |
US7954054B2 (en) | Insertion point bungee space tool | |
US5231698A (en) | Script/binary-encoded-character processing method and system | |
US7322008B2 (en) | Organizing, editing, and rendering digital ink | |
JP4637455B2 (ja) | ユーザインタフェースの利用方法並びにコンピュータで使用可能な媒体を含む製品 | |
US5572651A (en) | Table-based user interface for retrieving and manipulating indices between data structures | |
US6952803B1 (en) | Method and system for transcribing and editing using a structured freeform editor | |
JP3775076B2 (ja) | 複数のグラフィック・オブジェクトの動的グループ化方法及びシステム | |
US7735007B2 (en) | Adding and removing white space from a document | |
US5592608A (en) | Interactively producing indices into image and gesture-based data using unrecognized graphical objects | |
JP5664164B2 (ja) | 電子情報ボード装置、情報表示方法、プログラム | |
KR20160064925A (ko) | 필기 입력 장치 및 그 제어 방법 | |
JP2003308310A (ja) | 表示方法、表示装置、表示プログラム、および表示プログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040518 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20040521 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20040702 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20070126 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20070131 |