OSDN Git Service

Remove extra outputs [ruby-dev:47057]
[nkf/nkf.git] / nkf.c
1 /*
2  * Copyright (c) 1987, Fujitsu LTD. (Itaru ICHIKAWA).
3  * Copyright (c) 1996-2010, The nkf Project.
4  *
5  * This software is provided 'as-is', without any express or implied
6  * warranty. In no event will the authors be held liable for any damages
7  * arising from the use of this software.
8  *
9  * Permission is granted to anyone to use this software for any purpose,
10  * including commercial applications, and to alter it and redistribute it
11  * freely, subject to the following restrictions:
12  *
13  * 1. The origin of this software must not be misrepresented; you must not
14  * claim that you wrote the original software. If you use this software
15  * in a product, an acknowledgment in the product documentation would be
16  * appreciated but is not required.
17  *
18  * 2. Altered source versions must be plainly marked as such, and must not be
19  * misrepresented as being the original software.
20  *
21  * 3. This notice may not be removed or altered from any source distribution.
22  */
23 #define NKF_VERSION "2.1.3"
24 #define NKF_RELEASE_DATE "2013-02-20"
25 #define COPY_RIGHT \
26     "Copyright (C) 1987, FUJITSU LTD. (I.Ichikawa).\n" \
27     "Copyright (C) 1996-2013, The nkf Project."
28
29 #include "config.h"
30 #include "nkf.h"
31 #include "utf8tbl.h"
32 #ifdef __WIN32__
33 #include <windows.h>
34 #include <locale.h>
35 #endif
36 #if defined(__OS2__)
37 # define INCL_DOS
38 # define INCL_DOSERRORS
39 # include <os2.h>
40 #endif
41 #include <assert.h>
42
43
44 /* state of output_mode and input_mode
45
46    c2           0 means ASCII
47    JIS_X_0201_1976_K
48    ISO_8859_1
49    JIS_X_0208
50    EOF      all termination
51    c1           32bit data
52
53  */
54
55 /* MIME ENCODE */
56
57 #define         FIXED_MIME      7
58 #define         STRICT_MIME     8
59
60 /* byte order */
61 enum byte_order {
62     ENDIAN_BIG    = 1,
63     ENDIAN_LITTLE = 2,
64     ENDIAN_2143   = 3,
65     ENDIAN_3412   = 4
66 };
67
68 /* ASCII CODE */
69
70 #define         BS      0x08
71 #define         TAB     0x09
72 #define         LF      0x0a
73 #define         CR      0x0d
74 #define         ESC     0x1b
75 #define         SP      0x20
76 #define         DEL     0x7f
77 #define         SI      0x0f
78 #define         SO      0x0e
79 #define         SS2     0x8e
80 #define         SS3     0x8f
81 #define         CRLF    0x0D0A
82
83
84 /* encodings */
85
86 enum nkf_encodings {
87     ASCII,
88     ISO_8859_1,
89     ISO_2022_JP,
90     CP50220,
91     CP50221,
92     CP50222,
93     ISO_2022_JP_1,
94     ISO_2022_JP_3,
95     ISO_2022_JP_2004,
96     SHIFT_JIS,
97     WINDOWS_31J,
98     CP10001,
99     EUC_JP,
100     EUCJP_NKF,
101     CP51932,
102     EUCJP_MS,
103     EUCJP_ASCII,
104     SHIFT_JISX0213,
105     SHIFT_JIS_2004,
106     EUC_JISX0213,
107     EUC_JIS_2004,
108     UTF_8,
109     UTF_8N,
110     UTF_8_BOM,
111     UTF8_MAC,
112     UTF_16,
113     UTF_16BE,
114     UTF_16BE_BOM,
115     UTF_16LE,
116     UTF_16LE_BOM,
117     UTF_32,
118     UTF_32BE,
119     UTF_32BE_BOM,
120     UTF_32LE,
121     UTF_32LE_BOM,
122     BINARY,
123     NKF_ENCODING_TABLE_SIZE,
124     JIS_X_0201_1976_K = 0x1013, /* I */ /* JIS C 6220-1969 */
125     /* JIS_X_0201_1976_R = 0x1014, */ /* J */ /* JIS C 6220-1969 */
126     /* JIS_X_0208_1978   = 0x1040, */ /* @ */ /* JIS C 6226-1978 */
127     /* JIS_X_0208_1983   = 0x1087, */ /* B */ /* JIS C 6226-1983 */
128     JIS_X_0208        = 0x1168, /* @B */
129     JIS_X_0212        = 0x1159, /* D */
130     /* JIS_X_0213_2000_1 = 0x1228, */ /* O */
131     JIS_X_0213_2 = 0x1229, /* P */
132     JIS_X_0213_1 = 0x1233 /* Q */
133 };
134
135 static nkf_char s_iconv(nkf_char c2, nkf_char c1, nkf_char c0);
136 static nkf_char e_iconv(nkf_char c2, nkf_char c1, nkf_char c0);
137 static nkf_char w_iconv(nkf_char c2, nkf_char c1, nkf_char c0);
138 static nkf_char w_iconv16(nkf_char c2, nkf_char c1, nkf_char c0);
139 static nkf_char w_iconv32(nkf_char c2, nkf_char c1, nkf_char c0);
140 static void j_oconv(nkf_char c2, nkf_char c1);
141 static void s_oconv(nkf_char c2, nkf_char c1);
142 static void e_oconv(nkf_char c2, nkf_char c1);
143 static void w_oconv(nkf_char c2, nkf_char c1);
144 static void w_oconv16(nkf_char c2, nkf_char c1);
145 static void w_oconv32(nkf_char c2, nkf_char c1);
146
147 typedef struct {
148     const char *name;
149     nkf_char (*iconv)(nkf_char c2, nkf_char c1, nkf_char c0);
150     void (*oconv)(nkf_char c2, nkf_char c1);
151 } nkf_native_encoding;
152
153 nkf_native_encoding NkfEncodingASCII =          { "ASCII", e_iconv, e_oconv };
154 nkf_native_encoding NkfEncodingISO_2022_JP =    { "ISO-2022-JP", e_iconv, j_oconv };
155 nkf_native_encoding NkfEncodingShift_JIS =      { "Shift_JIS", s_iconv, s_oconv };
156 nkf_native_encoding NkfEncodingEUC_JP =         { "EUC-JP", e_iconv, e_oconv };
157 nkf_native_encoding NkfEncodingUTF_8 =          { "UTF-8", w_iconv, w_oconv };
158 nkf_native_encoding NkfEncodingUTF_16 =         { "UTF-16", w_iconv16, w_oconv16 };
159 nkf_native_encoding NkfEncodingUTF_32 =         { "UTF-32", w_iconv32, w_oconv32 };
160
161 typedef struct {
162     const int id;
163     const char *name;
164     const nkf_native_encoding *base_encoding;
165 } nkf_encoding;
166
167 nkf_encoding nkf_encoding_table[] = {
168     {ASCII,             "US-ASCII",             &NkfEncodingASCII},
169     {ISO_8859_1,        "ISO-8859-1",           &NkfEncodingASCII},
170     {ISO_2022_JP,       "ISO-2022-JP",          &NkfEncodingISO_2022_JP},
171     {CP50220,           "CP50220",              &NkfEncodingISO_2022_JP},
172     {CP50221,           "CP50221",              &NkfEncodingISO_2022_JP},
173     {CP50222,           "CP50222",              &NkfEncodingISO_2022_JP},
174     {ISO_2022_JP_1,     "ISO-2022-JP-1",        &NkfEncodingISO_2022_JP},
175     {ISO_2022_JP_3,     "ISO-2022-JP-3",        &NkfEncodingISO_2022_JP},
176     {ISO_2022_JP_2004,  "ISO-2022-JP-2004",     &NkfEncodingISO_2022_JP},
177     {SHIFT_JIS,         "Shift_JIS",            &NkfEncodingShift_JIS},
178     {WINDOWS_31J,       "Windows-31J",          &NkfEncodingShift_JIS},
179     {CP10001,           "CP10001",              &NkfEncodingShift_JIS},
180     {EUC_JP,            "EUC-JP",               &NkfEncodingEUC_JP},
181     {EUCJP_NKF,         "eucJP-nkf",            &NkfEncodingEUC_JP},
182     {CP51932,           "CP51932",              &NkfEncodingEUC_JP},
183     {EUCJP_MS,          "eucJP-MS",             &NkfEncodingEUC_JP},
184     {EUCJP_ASCII,       "eucJP-ASCII",          &NkfEncodingEUC_JP},
185     {SHIFT_JISX0213,    "Shift_JISX0213",       &NkfEncodingShift_JIS},
186     {SHIFT_JIS_2004,    "Shift_JIS-2004",       &NkfEncodingShift_JIS},
187     {EUC_JISX0213,      "EUC-JISX0213",         &NkfEncodingEUC_JP},
188     {EUC_JIS_2004,      "EUC-JIS-2004",         &NkfEncodingEUC_JP},
189     {UTF_8,             "UTF-8",                &NkfEncodingUTF_8},
190     {UTF_8N,            "UTF-8N",               &NkfEncodingUTF_8},
191     {UTF_8_BOM,         "UTF-8-BOM",            &NkfEncodingUTF_8},
192     {UTF8_MAC,          "UTF8-MAC",             &NkfEncodingUTF_8},
193     {UTF_16,            "UTF-16",               &NkfEncodingUTF_16},
194     {UTF_16BE,          "UTF-16BE",             &NkfEncodingUTF_16},
195     {UTF_16BE_BOM,      "UTF-16BE-BOM",         &NkfEncodingUTF_16},
196     {UTF_16LE,          "UTF-16LE",             &NkfEncodingUTF_16},
197     {UTF_16LE_BOM,      "UTF-16LE-BOM",         &NkfEncodingUTF_16},
198     {UTF_32,            "UTF-32",               &NkfEncodingUTF_32},
199     {UTF_32BE,          "UTF-32BE",             &NkfEncodingUTF_32},
200     {UTF_32BE_BOM,      "UTF-32BE-BOM",         &NkfEncodingUTF_32},
201     {UTF_32LE,          "UTF-32LE",             &NkfEncodingUTF_32},
202     {UTF_32LE_BOM,      "UTF-32LE-BOM",         &NkfEncodingUTF_32},
203     {BINARY,            "BINARY",               &NkfEncodingASCII},
204     {-1,                NULL,                   NULL}
205 };
206
207 struct {
208     const char *name;
209     const int id;
210 } encoding_name_to_id_table[] = {
211     {"US-ASCII",                ASCII},
212     {"ASCII",                   ASCII},
213     {"646",                     ASCII},
214     {"ROMAN8",                  ASCII},
215     {"ISO-2022-JP",             ISO_2022_JP},
216     {"ISO2022JP-CP932",         CP50220},
217     {"CP50220",                 CP50220},
218     {"CP50221",                 CP50221},
219     {"CSISO2022JP",             CP50221},
220     {"CP50222",                 CP50222},
221     {"ISO-2022-JP-1",           ISO_2022_JP_1},
222     {"ISO-2022-JP-3",           ISO_2022_JP_3},
223     {"ISO-2022-JP-2004",        ISO_2022_JP_2004},
224     {"SHIFT_JIS",               SHIFT_JIS},
225     {"SJIS",                    SHIFT_JIS},
226     {"MS_Kanji",                SHIFT_JIS},
227     {"PCK",                     SHIFT_JIS},
228     {"WINDOWS-31J",             WINDOWS_31J},
229     {"CSWINDOWS31J",            WINDOWS_31J},
230     {"CP932",                   WINDOWS_31J},
231     {"MS932",                   WINDOWS_31J},
232     {"CP10001",                 CP10001},
233     {"EUCJP",                   EUC_JP},
234     {"EUC-JP",                  EUC_JP},
235     {"EUCJP-NKF",               EUCJP_NKF},
236     {"CP51932",                 CP51932},
237     {"EUC-JP-MS",               EUCJP_MS},
238     {"EUCJP-MS",                EUCJP_MS},
239     {"EUCJPMS",                 EUCJP_MS},
240     {"EUC-JP-ASCII",            EUCJP_ASCII},
241     {"EUCJP-ASCII",             EUCJP_ASCII},
242     {"SHIFT_JISX0213",          SHIFT_JISX0213},
243     {"SHIFT_JIS-2004",          SHIFT_JIS_2004},
244     {"EUC-JISX0213",            EUC_JISX0213},
245     {"EUC-JIS-2004",            EUC_JIS_2004},
246     {"UTF-8",                   UTF_8},
247     {"UTF-8N",                  UTF_8N},
248     {"UTF-8-BOM",               UTF_8_BOM},
249     {"UTF8-MAC",                UTF8_MAC},
250     {"UTF-8-MAC",               UTF8_MAC},
251     {"UTF-16",                  UTF_16},
252     {"UTF-16BE",                UTF_16BE},
253     {"UTF-16BE-BOM",            UTF_16BE_BOM},
254     {"UTF-16LE",                UTF_16LE},
255     {"UTF-16LE-BOM",            UTF_16LE_BOM},
256     {"UTF-32",                  UTF_32},
257     {"UTF-32BE",                UTF_32BE},
258     {"UTF-32BE-BOM",            UTF_32BE_BOM},
259     {"UTF-32LE",                UTF_32LE},
260     {"UTF-32LE-BOM",            UTF_32LE_BOM},
261     {"BINARY",                  BINARY},
262     {NULL,                      -1}
263 };
264
265 #if defined(DEFAULT_CODE_JIS)
266 #define     DEFAULT_ENCIDX ISO_2022_JP
267 #elif defined(DEFAULT_CODE_SJIS)
268 #define     DEFAULT_ENCIDX SHIFT_JIS
269 #elif defined(DEFAULT_CODE_WINDOWS_31J)
270 #define     DEFAULT_ENCIDX WINDOWS_31J
271 #elif defined(DEFAULT_CODE_EUC)
272 #define     DEFAULT_ENCIDX EUC_JP
273 #elif defined(DEFAULT_CODE_UTF8)
274 #define     DEFAULT_ENCIDX UTF_8
275 #endif
276
277
278 #define         is_alnum(c)  \
279     (('a'<=c && c<='z')||('A'<= c && c<='Z')||('0'<=c && c<='9'))
280
281 /* I don't trust portablity of toupper */
282 #define nkf_toupper(c)  (('a'<=c && c<='z')?(c-('a'-'A')):c)
283 #define nkf_isoctal(c)  ('0'<=c && c<='7')
284 #define nkf_isdigit(c)  ('0'<=c && c<='9')
285 #define nkf_isxdigit(c)  (nkf_isdigit(c) || ('a'<=c && c<='f') || ('A'<=c && c <= 'F'))
286 #define nkf_isblank(c) (c == SP || c == TAB)
287 #define nkf_isspace(c) (nkf_isblank(c) || c == CR || c == LF)
288 #define nkf_isalpha(c) (('a' <= c && c <= 'z') || ('A' <= c && c <= 'Z'))
289 #define nkf_isalnum(c) (nkf_isdigit(c) || nkf_isalpha(c))
290 #define nkf_isprint(c) (SP<=c && c<='~')
291 #define nkf_isgraph(c) ('!'<=c && c<='~')
292 #define hex2bin(c) (('0'<=c&&c<='9') ? (c-'0') : \
293                     ('A'<=c&&c<='F') ? (c-'A'+10) : \
294                     ('a'<=c&&c<='f') ? (c-'a'+10) : 0)
295 #define bin2hex(c) ("0123456789ABCDEF"[c&15])
296 #define is_eucg3(c2) (((unsigned short)c2 >> 8) == SS3)
297 #define nkf_noescape_mime(c) ((c == CR) || (c == LF) || \
298                               ((c > SP) && (c < DEL) && (c != '?') && (c != '=') && (c != '_') \
299                                && (c != '(') && (c != ')') && (c != '.') && (c != 0x22)))
300
301 #define is_ibmext_in_sjis(c2) (CP932_TABLE_BEGIN <= c2 && c2 <= CP932_TABLE_END)
302 #define nkf_byte_jisx0201_katakana_p(c) (SP <= c && c <= 0x5F)
303
304 #define         HOLD_SIZE       1024
305 #if defined(INT_IS_SHORT)
306 #define         IOBUF_SIZE      2048
307 #else
308 #define         IOBUF_SIZE      16384
309 #endif
310
311 #define         DEFAULT_J       'B'
312 #define         DEFAULT_R       'B'
313
314
315 #define         GETA1   0x22
316 #define         GETA2   0x2e
317
318
319 /* MIME preprocessor */
320
321 #ifdef EASYWIN /*Easy Win */
322 extern POINT _BufferSize;
323 #endif
324
325 struct input_code{
326     const char *name;
327     nkf_char stat;
328     nkf_char score;
329     nkf_char index;
330     nkf_char buf[3];
331     void (*status_func)(struct input_code *, nkf_char);
332     nkf_char (*iconv_func)(nkf_char c2, nkf_char c1, nkf_char c0);
333     int _file_stat;
334 };
335
336 static const char *input_codename = NULL; /* NULL: unestablished, "": BINARY */
337 static nkf_encoding *input_encoding = NULL;
338 static nkf_encoding *output_encoding = NULL;
339
340 #if defined(UTF8_INPUT_ENABLE) || defined(UTF8_OUTPUT_ENABLE)
341 /* UCS Mapping
342  * 0: Shift_JIS, eucJP-ascii
343  * 1: eucJP-ms
344  * 2: CP932, CP51932
345  * 3: CP10001
346  */
347 #define UCS_MAP_ASCII   0
348 #define UCS_MAP_MS      1
349 #define UCS_MAP_CP932   2
350 #define UCS_MAP_CP10001 3
351 static int ms_ucs_map_f = UCS_MAP_ASCII;
352 #endif
353 #ifdef UTF8_INPUT_ENABLE
354 /* no NEC special, NEC-selected IBM extended and IBM extended characters */
355 static  int     no_cp932ext_f = FALSE;
356 /* ignore ZERO WIDTH NO-BREAK SPACE */
357 static  int     no_best_fit_chars_f = FALSE;
358 static  int     input_endian = ENDIAN_BIG;
359 static  int     input_bom_f = FALSE;
360 static  nkf_char     unicode_subchar = '?'; /* the regular substitution character */
361 static  void    (*encode_fallback)(nkf_char c) = NULL;
362 static  void    w_status(struct input_code *, nkf_char);
363 #endif
364 #ifdef UTF8_OUTPUT_ENABLE
365 static  int     output_bom_f = FALSE;
366 static  int     output_endian = ENDIAN_BIG;
367 #endif
368
369 static  void    std_putc(nkf_char c);
370 static  nkf_char     std_getc(FILE *f);
371 static  nkf_char     std_ungetc(nkf_char c,FILE *f);
372
373 static  nkf_char     broken_getc(FILE *f);
374 static  nkf_char     broken_ungetc(nkf_char c,FILE *f);
375
376 static  nkf_char     mime_getc(FILE *f);
377
378 static void mime_putc(nkf_char c);
379
380 /* buffers */
381
382 #if !defined(PERL_XS) && !defined(WIN32DLL)
383 static unsigned char   stdibuf[IOBUF_SIZE];
384 static unsigned char   stdobuf[IOBUF_SIZE];
385 #endif
386
387 #define NKF_UNSPECIFIED (-TRUE)
388
389 /* flags */
390 static int             unbuf_f = FALSE;
391 static int             estab_f = FALSE;
392 static int             nop_f = FALSE;
393 static int             binmode_f = TRUE;       /* binary mode */
394 static int             rot_f = FALSE;          /* rot14/43 mode */
395 static int             hira_f = FALSE;          /* hira/kata henkan */
396 static int             alpha_f = FALSE;        /* convert JIx0208 alphbet to ASCII */
397 static int             mime_f = MIME_DECODE_DEFAULT;   /* convert MIME B base64 or Q */
398 static int             mime_decode_f = FALSE;  /* mime decode is explicitly on */
399 static int             mimebuf_f = FALSE;      /* MIME buffered input */
400 static int             broken_f = FALSE;       /* convert ESC-less broken JIS */
401 static int             iso8859_f = FALSE;      /* ISO8859 through */
402 static int             mimeout_f = FALSE;       /* base64 mode */
403 static int             x0201_f = NKF_UNSPECIFIED;   /* convert JIS X 0201 */
404 static int             iso2022jp_f = FALSE;    /* replace non ISO-2022-JP with GETA */
405
406 #ifdef UNICODE_NORMALIZATION
407 static int nfc_f = FALSE;
408 static nkf_char (*i_nfc_getc)(FILE *) = std_getc; /* input of ugetc */
409 static nkf_char (*i_nfc_ungetc)(nkf_char c ,FILE *f) = std_ungetc;
410 #endif
411
412 #ifdef INPUT_OPTION
413 static int cap_f = FALSE;
414 static nkf_char (*i_cgetc)(FILE *) = std_getc; /* input of cgetc */
415 static nkf_char (*i_cungetc)(nkf_char c ,FILE *f) = std_ungetc;
416
417 static int url_f = FALSE;
418 static nkf_char (*i_ugetc)(FILE *) = std_getc; /* input of ugetc */
419 static nkf_char (*i_uungetc)(nkf_char c ,FILE *f) = std_ungetc;
420 #endif
421
422 #define PREFIX_EUCG3    NKF_INT32_C(0x8F00)
423 #define CLASS_MASK      NKF_INT32_C(0xFF000000)
424 #define CLASS_UNICODE   NKF_INT32_C(0x01000000)
425 #define VALUE_MASK      NKF_INT32_C(0x00FFFFFF)
426 #define UNICODE_BMP_MAX NKF_INT32_C(0x0000FFFF)
427 #define UNICODE_MAX     NKF_INT32_C(0x0010FFFF)
428 #define nkf_char_euc3_new(c) ((c) | PREFIX_EUCG3)
429 #define nkf_char_unicode_new(c) ((c) | CLASS_UNICODE)
430 #define nkf_char_unicode_p(c) ((c & CLASS_MASK) == CLASS_UNICODE)
431 #define nkf_char_unicode_bmp_p(c) ((c & VALUE_MASK) <= UNICODE_BMP_MAX)
432 #define nkf_char_unicode_value_p(c) ((c & VALUE_MASK) <= UNICODE_MAX)
433
434 #define UTF16_TO_UTF32(lead, trail) (((lead) << 10) + (trail) - NKF_INT32_C(0x35FDC00))
435
436 #ifdef NUMCHAR_OPTION
437 static int numchar_f = FALSE;
438 static nkf_char (*i_ngetc)(FILE *) = std_getc; /* input of ugetc */
439 static nkf_char (*i_nungetc)(nkf_char c ,FILE *f) = std_ungetc;
440 #endif
441
442 #ifdef CHECK_OPTION
443 static int noout_f = FALSE;
444 static void no_putc(nkf_char c);
445 static int debug_f = FALSE;
446 static void debug(const char *str);
447 static nkf_char (*iconv_for_check)(nkf_char c2,nkf_char c1,nkf_char c0) = 0;
448 #endif
449
450 static int guess_f = 0; /* 0: OFF, 1: ON, 2: VERBOSE */
451 static  void    set_input_codename(const char *codename);
452
453 #ifdef EXEC_IO
454 static int exec_f = 0;
455 #endif
456
457 #ifdef SHIFTJIS_CP932
458 /* invert IBM extended characters to others */
459 static int cp51932_f = FALSE;
460
461 /* invert NEC-selected IBM extended characters to IBM extended characters */
462 static int cp932inv_f = TRUE;
463
464 /* static nkf_char cp932_conv(nkf_char c2, nkf_char c1); */
465 #endif /* SHIFTJIS_CP932 */
466
467 static int x0212_f = FALSE;
468 static int x0213_f = FALSE;
469
470 static unsigned char prefix_table[256];
471
472 static void e_status(struct input_code *, nkf_char);
473 static void s_status(struct input_code *, nkf_char);
474
475 struct input_code input_code_list[] = {
476     {"EUC-JP",    0, 0, 0, {0, 0, 0}, e_status, e_iconv, 0},
477     {"Shift_JIS", 0, 0, 0, {0, 0, 0}, s_status, s_iconv, 0},
478 #ifdef UTF8_INPUT_ENABLE
479     {"UTF-8",     0, 0, 0, {0, 0, 0}, w_status, w_iconv, 0},
480     {"UTF-16",     0, 0, 0, {0, 0, 0}, NULL, w_iconv16, 0},
481     {"UTF-32",     0, 0, 0, {0, 0, 0}, NULL, w_iconv32, 0},
482 #endif
483     {NULL,        0, 0, 0, {0, 0, 0}, NULL, NULL, 0}
484 };
485
486 static int              mimeout_mode = 0; /* 0, -1, 'Q', 'B', 1, 2 */
487 static int              base64_count = 0;
488
489 /* X0208 -> ASCII converter */
490
491 /* fold parameter */
492 static int             f_line = 0;    /* chars in line */
493 static int             f_prev = 0;
494 static int             fold_preserve_f = FALSE; /* preserve new lines */
495 static int             fold_f  = FALSE;
496 static int             fold_len  = 0;
497
498 /* options */
499 static unsigned char   kanji_intro = DEFAULT_J;
500 static unsigned char   ascii_intro = DEFAULT_R;
501
502 /* Folding */
503
504 #define FOLD_MARGIN  10
505 #define DEFAULT_FOLD 60
506
507 static int             fold_margin  = FOLD_MARGIN;
508
509 /* process default */
510
511 static nkf_char
512 no_connection2(ARG_UNUSED nkf_char c2, ARG_UNUSED nkf_char c1, ARG_UNUSED nkf_char c0)
513 {
514     fprintf(stderr,"nkf internal module connection failure.\n");
515     exit(EXIT_FAILURE);
516     return 0; /* LINT */
517 }
518
519 static void
520 no_connection(nkf_char c2, nkf_char c1)
521 {
522     no_connection2(c2,c1,0);
523 }
524
525 static nkf_char (*iconv)(nkf_char c2,nkf_char c1,nkf_char c0) = no_connection2;
526 static void (*oconv)(nkf_char c2,nkf_char c1) = no_connection;
527
528 static void (*o_zconv)(nkf_char c2,nkf_char c1) = no_connection;
529 static void (*o_fconv)(nkf_char c2,nkf_char c1) = no_connection;
530 static void (*o_eol_conv)(nkf_char c2,nkf_char c1) = no_connection;
531 static void (*o_rot_conv)(nkf_char c2,nkf_char c1) = no_connection;
532 static void (*o_hira_conv)(nkf_char c2,nkf_char c1) = no_connection;
533 static void (*o_base64conv)(nkf_char c2,nkf_char c1) = no_connection;
534 static void (*o_iso2022jp_check_conv)(nkf_char c2,nkf_char c1) = no_connection;
535
536 /* static redirections */
537
538 static  void   (*o_putc)(nkf_char c) = std_putc;
539
540 static  nkf_char    (*i_getc)(FILE *f) = std_getc; /* general input */
541 static  nkf_char    (*i_ungetc)(nkf_char c,FILE *f) =std_ungetc;
542
543 static  nkf_char    (*i_bgetc)(FILE *) = std_getc; /* input of mgetc */
544 static  nkf_char    (*i_bungetc)(nkf_char c ,FILE *f) = std_ungetc;
545
546 static  void   (*o_mputc)(nkf_char c) = std_putc ; /* output of mputc */
547
548 static  nkf_char    (*i_mgetc)(FILE *) = std_getc; /* input of mgetc */
549 static  nkf_char    (*i_mungetc)(nkf_char c ,FILE *f) = std_ungetc;
550
551 /* for strict mime */
552 static  nkf_char    (*i_mgetc_buf)(FILE *) = std_getc; /* input of mgetc_buf */
553 static  nkf_char    (*i_mungetc_buf)(nkf_char c,FILE *f) = std_ungetc;
554
555 /* Global states */
556 static int output_mode = ASCII;    /* output kanji mode */
557 static int input_mode =  ASCII;    /* input kanji mode */
558 static int mime_decode_mode =   FALSE;    /* MIME mode B base64, Q hex */
559
560 /* X0201 / X0208 conversion tables */
561
562 /* X0201 kana conversion table */
563 /* 90-9F A0-DF */
564 static const unsigned char cv[]= {
565     0x21,0x21,0x21,0x23,0x21,0x56,0x21,0x57,
566     0x21,0x22,0x21,0x26,0x25,0x72,0x25,0x21,
567     0x25,0x23,0x25,0x25,0x25,0x27,0x25,0x29,
568     0x25,0x63,0x25,0x65,0x25,0x67,0x25,0x43,
569     0x21,0x3c,0x25,0x22,0x25,0x24,0x25,0x26,
570     0x25,0x28,0x25,0x2a,0x25,0x2b,0x25,0x2d,
571     0x25,0x2f,0x25,0x31,0x25,0x33,0x25,0x35,
572     0x25,0x37,0x25,0x39,0x25,0x3b,0x25,0x3d,
573     0x25,0x3f,0x25,0x41,0x25,0x44,0x25,0x46,
574     0x25,0x48,0x25,0x4a,0x25,0x4b,0x25,0x4c,
575     0x25,0x4d,0x25,0x4e,0x25,0x4f,0x25,0x52,
576     0x25,0x55,0x25,0x58,0x25,0x5b,0x25,0x5e,
577     0x25,0x5f,0x25,0x60,0x25,0x61,0x25,0x62,
578     0x25,0x64,0x25,0x66,0x25,0x68,0x25,0x69,
579     0x25,0x6a,0x25,0x6b,0x25,0x6c,0x25,0x6d,
580     0x25,0x6f,0x25,0x73,0x21,0x2b,0x21,0x2c,
581     0x00,0x00};
582
583
584 /* X0201 kana conversion table for daguten */
585 /* 90-9F A0-DF */
586 static const unsigned char dv[]= {
587     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
588     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
589     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
590     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
591     0x00,0x00,0x00,0x00,0x00,0x00,0x25,0x74,
592     0x00,0x00,0x00,0x00,0x25,0x2c,0x25,0x2e,
593     0x25,0x30,0x25,0x32,0x25,0x34,0x25,0x36,
594     0x25,0x38,0x25,0x3a,0x25,0x3c,0x25,0x3e,
595     0x25,0x40,0x25,0x42,0x25,0x45,0x25,0x47,
596     0x25,0x49,0x00,0x00,0x00,0x00,0x00,0x00,
597     0x00,0x00,0x00,0x00,0x25,0x50,0x25,0x53,
598     0x25,0x56,0x25,0x59,0x25,0x5c,0x00,0x00,
599     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
600     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
601     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
602     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
603     0x00,0x00};
604
605 /* X0201 kana conversion table for han-daguten */
606 /* 90-9F A0-DF */
607 static const unsigned char ev[]= {
608     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
609     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
610     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
611     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
612     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
613     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
614     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
615     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
616     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
617     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
618     0x00,0x00,0x00,0x00,0x25,0x51,0x25,0x54,
619     0x25,0x57,0x25,0x5a,0x25,0x5d,0x00,0x00,
620     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
621     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
622     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
623     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
624     0x00,0x00};
625
626 /* X0201 kana to X0213 conversion table for han-daguten */
627 /* 90-9F A0-DF */
628 static const unsigned char ev_x0213[]= {
629     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
630     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
631     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
632     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
633     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
634     0x00,0x00,0x00,0x00,0x25,0x77,0x25,0x78,
635     0x25,0x79,0x25,0x7a,0x25,0x7b,0x00,0x00,
636     0x00,0x00,0x00,0x00,0x25,0x7c,0x00,0x00,
637     0x00,0x00,0x00,0x00,0x25,0x7d,0x00,0x00,
638     0x25,0x7e,0x00,0x00,0x00,0x00,0x00,0x00,
639     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
640     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
641     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
642     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
643     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
644     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
645     0x00,0x00};
646
647
648 /* X0208 kigou conversion table */
649 /* 0x8140 - 0x819e */
650 static const unsigned char fv[] = {
651
652     0x00,0x00,0x00,0x00,0x2c,0x2e,0x00,0x3a,
653     0x3b,0x3f,0x21,0x00,0x00,0x27,0x60,0x00,
654     0x5e,0x00,0x5f,0x00,0x00,0x00,0x00,0x00,
655     0x00,0x00,0x00,0x00,0x00,0x2d,0x00,0x2f,
656     0x5c,0x00,0x00,0x7c,0x00,0x00,0x60,0x27,
657     0x22,0x22,0x28,0x29,0x00,0x00,0x5b,0x5d,
658     0x7b,0x7d,0x3c,0x3e,0x00,0x00,0x00,0x00,
659     0x00,0x00,0x00,0x00,0x2b,0x2d,0x00,0x00,
660     0x00,0x3d,0x00,0x3c,0x3e,0x00,0x00,0x00,
661     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00,
662     0x24,0x00,0x00,0x25,0x23,0x26,0x2a,0x40,
663     0x00,0x00,0x00,0x00,0x00,0x00,0x00,0x00
664 } ;
665
666
667
668 static int option_mode = 0;
669 static int             file_out_f = FALSE;
670 #ifdef OVERWRITE
671 static int             overwrite_f = FALSE;
672 static int             preserve_time_f = FALSE;
673 static int             backup_f = FALSE;
674 static char            *backup_suffix = "";
675 #endif
676
677 static int eolmode_f = 0;   /* CR, LF, CRLF */
678 static int input_eol = 0; /* 0: unestablished, EOF: MIXED */
679 static nkf_char prev_cr = 0; /* CR or 0 */
680 #ifdef EASYWIN /*Easy Win */
681 static int             end_check;
682 #endif /*Easy Win */
683
684 static void *
685 nkf_xmalloc(size_t size)
686 {
687     void *ptr;
688
689     if (size == 0) size = 1;
690
691     ptr = malloc(size);
692     if (ptr == NULL) {
693         perror("can't malloc");
694         exit(EXIT_FAILURE);
695     }
696
697     return ptr;
698 }
699
700 static void *
701 nkf_xrealloc(void *ptr, size_t size)
702 {
703     if (size == 0) size = 1;
704
705     ptr = realloc(ptr, size);
706     if (ptr == NULL) {
707         perror("can't realloc");
708         exit(EXIT_FAILURE);
709     }
710
711     return ptr;
712 }
713
714 #define nkf_xfree(ptr) free(ptr)
715
716 static int
717 nkf_str_caseeql(const char *src, const char *target)
718 {
719     int i;
720     for (i = 0; src[i] && target[i]; i++) {
721         if (nkf_toupper(src[i]) != nkf_toupper(target[i])) return FALSE;
722     }
723     if (src[i] || target[i]) return FALSE;
724     else return TRUE;
725 }
726
727 static nkf_encoding*
728 nkf_enc_from_index(int idx)
729 {
730     if (idx < 0 || NKF_ENCODING_TABLE_SIZE <= idx) {
731         return 0;
732     }
733     return &nkf_encoding_table[idx];
734 }
735
736 static int
737 nkf_enc_find_index(const char *name)
738 {
739     int i;
740     if (name[0] == 'X' && *(name+1) == '-') name += 2;
741     for (i = 0; encoding_name_to_id_table[i].id >= 0; i++) {
742         if (nkf_str_caseeql(encoding_name_to_id_table[i].name, name)) {
743             return encoding_name_to_id_table[i].id;
744         }
745     }
746     return -1;
747 }
748
749 static nkf_encoding*
750 nkf_enc_find(const char *name)
751 {
752     int idx = -1;
753     idx = nkf_enc_find_index(name);
754     if (idx < 0) return 0;
755     return nkf_enc_from_index(idx);
756 }
757
758 #define nkf_enc_name(enc) (enc)->name
759 #define nkf_enc_to_index(enc) (enc)->id
760 #define nkf_enc_to_base_encoding(enc) (enc)->base_encoding
761 #define nkf_enc_to_iconv(enc) nkf_enc_to_base_encoding(enc)->iconv
762 #define nkf_enc_to_oconv(enc) nkf_enc_to_base_encoding(enc)->oconv
763 #define nkf_enc_asciicompat(enc) (\
764                                   nkf_enc_to_base_encoding(enc) == &NkfEncodingASCII ||\
765                                   nkf_enc_to_base_encoding(enc) == &NkfEncodingISO_2022_JP)
766 #define nkf_enc_unicode_p(enc) (\
767                                 nkf_enc_to_base_encoding(enc) == &NkfEncodingUTF_8 ||\
768                                 nkf_enc_to_base_encoding(enc) == &NkfEncodingUTF_16 ||\
769                                 nkf_enc_to_base_encoding(enc) == &NkfEncodingUTF_32)
770 #define nkf_enc_cp5022x_p(enc) (\
771                                 nkf_enc_to_index(enc) == CP50220 ||\
772                                 nkf_enc_to_index(enc) == CP50221 ||\
773                                 nkf_enc_to_index(enc) == CP50222)
774
775 #ifdef DEFAULT_CODE_LOCALE
776 static const char*
777 nkf_locale_charmap()
778 {
779 #ifdef HAVE_LANGINFO_H
780     return nl_langinfo(CODESET);
781 #elif defined(__WIN32__)
782     static char buf[16];
783     sprintf(buf, "CP%d", GetACP());
784     return buf;
785 #elif defined(__OS2__)
786 # if defined(INT_IS_SHORT)
787     /* OS/2 1.x */
788     return NULL;
789 # else
790     /* OS/2 32bit */
791     static char buf[16];
792     ULONG ulCP[1], ulncp;
793     DosQueryCp(sizeof(ulCP), ulCP, &ulncp);
794     if (ulCP[0] == 932 || ulCP[0] == 943)
795         strcpy(buf, "Shift_JIS");
796     else
797         sprintf(buf, "CP%lu", ulCP[0]);
798     return buf;
799 # endif
800 #endif
801     return NULL;
802 }
803
804 static nkf_encoding*
805 nkf_locale_encoding()
806 {
807     nkf_encoding *enc = 0;
808     const char *encname = nkf_locale_charmap();
809     if (encname)
810         enc = nkf_enc_find(encname);
811     return enc;
812 }
813 #endif /* DEFAULT_CODE_LOCALE */
814
815 static nkf_encoding*
816 nkf_utf8_encoding()
817 {
818     return &nkf_encoding_table[UTF_8];
819 }
820
821 static nkf_encoding*
822 nkf_default_encoding()
823 {
824     nkf_encoding *enc = 0;
825 #ifdef DEFAULT_CODE_LOCALE
826     enc = nkf_locale_encoding();
827 #elif defined(DEFAULT_ENCIDX)
828     enc = nkf_enc_from_index(DEFAULT_ENCIDX);
829 #endif
830     if (!enc) enc = nkf_utf8_encoding();
831     return enc;
832 }
833
834 typedef struct {
835     long capa;
836     long len;
837     nkf_char *ptr;
838 } nkf_buf_t;
839
840 static nkf_buf_t *
841 nkf_buf_new(int length)
842 {
843     nkf_buf_t *buf = nkf_xmalloc(sizeof(nkf_buf_t));
844     buf->ptr = nkf_xmalloc(sizeof(nkf_char) * length);
845     buf->capa = length;
846     buf->len = 0;
847     return buf;
848 }
849
850 #if 0
851 static void
852 nkf_buf_dispose(nkf_buf_t *buf)
853 {
854     nkf_xfree(buf->ptr);
855     nkf_xfree(buf);
856 }
857 #endif
858
859 #define nkf_buf_length(buf) ((buf)->len)
860 #define nkf_buf_empty_p(buf) ((buf)->len == 0)
861
862 static nkf_char
863 nkf_buf_at(nkf_buf_t *buf, int index)
864 {
865     assert(index <= buf->len);
866     return buf->ptr[index];
867 }
868
869 static void
870 nkf_buf_clear(nkf_buf_t *buf)
871 {
872     buf->len = 0;
873 }
874
875 static void
876 nkf_buf_push(nkf_buf_t *buf, nkf_char c)
877 {
878     if (buf->capa <= buf->len) {
879         exit(EXIT_FAILURE);
880     }
881     buf->ptr[buf->len++] = c;
882 }
883
884 static nkf_char
885 nkf_buf_pop(nkf_buf_t *buf)
886 {
887     assert(!nkf_buf_empty_p(buf));
888     return buf->ptr[--buf->len];
889 }
890
891 /* Normalization Form C */
892 #ifndef PERL_XS
893 #ifdef WIN32DLL
894 #define fprintf dllprintf
895 #endif
896
897 static void
898 version(void)
899 {
900     fprintf(HELP_OUTPUT,"Network Kanji Filter Version " NKF_VERSION " (" NKF_RELEASE_DATE ") \n" COPY_RIGHT "\n");
901 }
902
903 static void
904 usage(void)
905 {
906     fprintf(HELP_OUTPUT,
907             "Usage:  nkf -[flags] [--] [in file] .. [out file for -O flag]\n"
908 #ifdef UTF8_OUTPUT_ENABLE
909             " j/s/e/w  Specify output encoding ISO-2022-JP, Shift_JIS, EUC-JP\n"
910             "          UTF options is -w[8[0],{16,32}[{B,L}[0]]]\n"
911 #else
912 #endif
913 #ifdef UTF8_INPUT_ENABLE
914             " J/S/E/W  Specify input encoding ISO-2022-JP, Shift_JIS, EUC-JP\n"
915             "          UTF option is -W[8,[16,32][B,L]]\n"
916 #else
917             " J/S/E    Specify output encoding ISO-2022-JP, Shift_JIS, EUC-JP\n"
918 #endif
919             );
920     fprintf(HELP_OUTPUT,
921             " m[BQSN0] MIME decode [B:base64,Q:quoted,S:strict,N:nonstrict,0:no decode]\n"
922             " M[BQ]    MIME encode [B:base64 Q:quoted]\n"
923             " f/F      Folding: -f60 or -f or -f60-10 (fold margin 10) F preserve nl\n"
924             );
925     fprintf(HELP_OUTPUT,
926             " Z[0-4]   Default/0: Convert JISX0208 Alphabet to ASCII\n"
927             "          1: Kankaku to one space  2: to two spaces  3: HTML Entity\n"
928             "          4: JISX0208 Katakana to JISX0201 Katakana\n"
929             " X,x      Convert Halfwidth Katakana to Fullwidth or preserve it\n"
930             );
931     fprintf(HELP_OUTPUT,
932             " O        Output to File (DEFAULT 'nkf.out')\n"
933             " L[uwm]   Line mode u:LF w:CRLF m:CR (DEFAULT noconversion)\n"
934             );
935     fprintf(HELP_OUTPUT,
936             " --ic=<encoding>        Specify the input encoding\n"
937             " --oc=<encoding>        Specify the output encoding\n"
938             " --hiragana --katakana  Hiragana/Katakana Conversion\n"
939             " --katakana-hiragana    Converts each other\n"
940             );
941     fprintf(HELP_OUTPUT,
942 #ifdef INPUT_OPTION
943             " --{cap, url}-input     Convert hex after ':' or '%%'\n"
944 #endif
945 #ifdef NUMCHAR_OPTION
946             " --numchar-input        Convert Unicode Character Reference\n"
947 #endif
948 #ifdef UTF8_INPUT_ENABLE
949             " --fb-{skip, html, xml, perl, java, subchar}\n"
950             "                        Specify unassigned character's replacement\n"
951 #endif
952             );
953     fprintf(HELP_OUTPUT,
954 #ifdef OVERWRITE
955             " --in-place[=SUF]       Overwrite original files\n"
956             " --overwrite[=SUF]      Preserve timestamp of original files\n"
957 #endif
958             " -g --guess             Guess the input code\n"
959             " -v --version           Print the version\n"
960             " --help/-V              Print this help / configuration\n"
961             );
962     version();
963 }
964
965 static void
966 show_configuration(void)
967 {
968     fprintf(HELP_OUTPUT,
969             "Summary of my nkf " NKF_VERSION " (" NKF_RELEASE_DATE ") configuration:\n"
970             "  Compile-time options:\n"
971             "    Compiled at:                 " __DATE__ " " __TIME__ "\n"
972            );
973     fprintf(HELP_OUTPUT,
974             "    Default output encoding:     "
975 #ifdef DEFAULT_CODE_LOCALE
976             "LOCALE (%s)\n", nkf_enc_name(nkf_default_encoding())
977 #elif defined(DEFAULT_ENCIDX)
978             "CONFIG (%s)\n", nkf_enc_name(nkf_default_encoding())
979 #else
980             "NONE\n"
981 #endif
982            );
983     fprintf(HELP_OUTPUT,
984             "    Default output end of line:  "
985 #if DEFAULT_NEWLINE == CR
986             "CR"
987 #elif DEFAULT_NEWLINE == CRLF
988             "CRLF"
989 #else
990             "LF"
991 #endif
992             "\n"
993             "    Decode MIME encoded string:  "
994 #if MIME_DECODE_DEFAULT
995             "ON"
996 #else
997             "OFF"
998 #endif
999             "\n"
1000             "    Convert JIS X 0201 Katakana: "
1001 #if X0201_DEFAULT
1002             "ON"
1003 #else
1004             "OFF"
1005 #endif
1006             "\n"
1007             "    --help, --version output:    "
1008 #if HELP_OUTPUT_HELP_OUTPUT
1009             "HELP_OUTPUT"
1010 #else
1011             "STDOUT"
1012 #endif
1013             "\n");
1014 }
1015 #endif /*PERL_XS*/
1016
1017 #ifdef OVERWRITE
1018 static char*
1019 get_backup_filename(const char *suffix, const char *filename)
1020 {
1021     char *backup_filename;
1022     int asterisk_count = 0;
1023     int i, j;
1024     int filename_length = strlen(filename);
1025
1026     for(i = 0; suffix[i]; i++){
1027         if(suffix[i] == '*') asterisk_count++;
1028     }
1029
1030     if(asterisk_count){
1031         backup_filename = nkf_xmalloc(strlen(suffix) + (asterisk_count * (filename_length - 1)) + 1);
1032         for(i = 0, j = 0; suffix[i];){
1033             if(suffix[i] == '*'){
1034                 backup_filename[j] = '\0';
1035                 strncat(backup_filename, filename, filename_length);
1036                 i++;
1037                 j += filename_length;
1038             }else{
1039                 backup_filename[j++] = suffix[i++];
1040             }
1041         }
1042         backup_filename[j] = '\0';
1043     }else{
1044         j = filename_length + strlen(suffix);
1045         backup_filename = nkf_xmalloc(j + 1);
1046         strcpy(backup_filename, filename);
1047         strcat(backup_filename, suffix);
1048         backup_filename[j] = '\0';
1049     }
1050     return backup_filename;
1051 }
1052 #endif
1053
1054 #ifdef UTF8_INPUT_ENABLE
1055 static void
1056 nkf_each_char_to_hex(void (*f)(nkf_char c2,nkf_char c1), nkf_char c)
1057 {
1058     int shift = 20;
1059     c &= VALUE_MASK;
1060     while(shift >= 0){
1061         if(c >= NKF_INT32_C(1)<<shift){
1062             while(shift >= 0){
1063                 (*f)(0, bin2hex(c>>shift));
1064                 shift -= 4;
1065             }
1066         }else{
1067             shift -= 4;
1068         }
1069     }
1070     return;
1071 }
1072
1073 static void
1074 encode_fallback_html(nkf_char c)
1075 {
1076     (*oconv)(0, '&');
1077     (*oconv)(0, '#');
1078     c &= VALUE_MASK;
1079     if(c >= NKF_INT32_C(1000000))
1080         (*oconv)(0, 0x30+(c/NKF_INT32_C(1000000))%10);
1081     if(c >= NKF_INT32_C(100000))
1082         (*oconv)(0, 0x30+(c/NKF_INT32_C(100000) )%10);
1083     if(c >= 10000)
1084         (*oconv)(0, 0x30+(c/10000  )%10);
1085     if(c >= 1000)
1086         (*oconv)(0, 0x30+(c/1000   )%10);
1087     if(c >= 100)
1088         (*oconv)(0, 0x30+(c/100    )%10);
1089     if(c >= 10)
1090         (*oconv)(0, 0x30+(c/10     )%10);
1091     if(c >= 0)
1092         (*oconv)(0, 0x30+ c         %10);
1093     (*oconv)(0, ';');
1094     return;
1095 }
1096
1097 static void
1098 encode_fallback_xml(nkf_char c)
1099 {
1100     (*oconv)(0, '&');
1101     (*oconv)(0, '#');
1102     (*oconv)(0, 'x');
1103     nkf_each_char_to_hex(oconv, c);
1104     (*oconv)(0, ';');
1105     return;
1106 }
1107
1108 static void
1109 encode_fallback_java(nkf_char c)
1110 {
1111     (*oconv)(0, '\\');
1112     c &= VALUE_MASK;
1113     if(!nkf_char_unicode_bmp_p(c)){
1114         (*oconv)(0, 'U');
1115         (*oconv)(0, '0');
1116         (*oconv)(0, '0');
1117         (*oconv)(0, bin2hex(c>>20));
1118         (*oconv)(0, bin2hex(c>>16));
1119     }else{
1120         (*oconv)(0, 'u');
1121     }
1122     (*oconv)(0, bin2hex(c>>12));
1123     (*oconv)(0, bin2hex(c>> 8));
1124     (*oconv)(0, bin2hex(c>> 4));
1125     (*oconv)(0, bin2hex(c    ));
1126     return;
1127 }
1128
1129 static void
1130 encode_fallback_perl(nkf_char c)
1131 {
1132     (*oconv)(0, '\\');
1133     (*oconv)(0, 'x');
1134     (*oconv)(0, '{');
1135     nkf_each_char_to_hex(oconv, c);
1136     (*oconv)(0, '}');
1137     return;
1138 }
1139
1140 static void
1141 encode_fallback_subchar(nkf_char c)
1142 {
1143     c = unicode_subchar;
1144     (*oconv)((c>>8)&0xFF, c&0xFF);
1145     return;
1146 }
1147 #endif
1148
1149 static const struct {
1150     const char *name;
1151     const char *alias;
1152 } long_option[] = {
1153     {"ic=", ""},
1154     {"oc=", ""},
1155     {"base64","jMB"},
1156     {"euc","e"},
1157     {"euc-input","E"},
1158     {"fj","jm"},
1159     {"help",""},
1160     {"jis","j"},
1161     {"jis-input","J"},
1162     {"mac","sLm"},
1163     {"mime","jM"},
1164     {"mime-input","m"},
1165     {"msdos","sLw"},
1166     {"sjis","s"},
1167     {"sjis-input","S"},
1168     {"unix","eLu"},
1169     {"version","v"},
1170     {"windows","sLw"},
1171     {"hiragana","h1"},
1172     {"katakana","h2"},
1173     {"katakana-hiragana","h3"},
1174     {"guess=", ""},
1175     {"guess", "g2"},
1176     {"cp932", ""},
1177     {"no-cp932", ""},
1178 #ifdef X0212_ENABLE
1179     {"x0212", ""},
1180 #endif
1181 #ifdef UTF8_OUTPUT_ENABLE
1182     {"utf8", "w"},
1183     {"utf16", "w16"},
1184     {"ms-ucs-map", ""},
1185     {"fb-skip", ""},
1186     {"fb-html", ""},
1187     {"fb-xml", ""},
1188     {"fb-perl", ""},
1189     {"fb-java", ""},
1190     {"fb-subchar", ""},
1191     {"fb-subchar=", ""},
1192 #endif
1193 #ifdef UTF8_INPUT_ENABLE
1194     {"utf8-input", "W"},
1195     {"utf16-input", "W16"},
1196     {"no-cp932ext", ""},
1197     {"no-best-fit-chars",""},
1198 #endif
1199 #ifdef UNICODE_NORMALIZATION
1200     {"utf8mac-input", ""},
1201 #endif
1202 #ifdef OVERWRITE
1203     {"overwrite", ""},
1204     {"overwrite=", ""},
1205     {"in-place", ""},
1206     {"in-place=", ""},
1207 #endif
1208 #ifdef INPUT_OPTION
1209     {"cap-input", ""},
1210     {"url-input", ""},
1211 #endif
1212 #ifdef NUMCHAR_OPTION
1213     {"numchar-input", ""},
1214 #endif
1215 #ifdef CHECK_OPTION
1216     {"no-output", ""},
1217     {"debug", ""},
1218 #endif
1219 #ifdef SHIFTJIS_CP932
1220     {"cp932inv", ""},
1221 #endif
1222 #ifdef EXEC_IO
1223     {"exec-in", ""},
1224     {"exec-out", ""},
1225 #endif
1226     {"prefix=", ""},
1227 };
1228
1229 static void
1230 set_input_encoding(nkf_encoding *enc)
1231 {
1232     switch (nkf_enc_to_index(enc)) {
1233     case ISO_8859_1:
1234         iso8859_f = TRUE;
1235         break;
1236     case CP50221:
1237     case CP50222:
1238         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1239     case CP50220:
1240 #ifdef SHIFTJIS_CP932
1241         cp51932_f = TRUE;
1242 #endif
1243 #ifdef UTF8_OUTPUT_ENABLE
1244         ms_ucs_map_f = UCS_MAP_CP932;
1245 #endif
1246         break;
1247     case ISO_2022_JP_1:
1248         x0212_f = TRUE;
1249         break;
1250     case ISO_2022_JP_3:
1251         x0212_f = TRUE;
1252         x0213_f = TRUE;
1253         break;
1254     case ISO_2022_JP_2004:
1255         x0212_f = TRUE;
1256         x0213_f = TRUE;
1257         break;
1258     case SHIFT_JIS:
1259         break;
1260     case WINDOWS_31J:
1261         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1262 #ifdef SHIFTJIS_CP932
1263         cp51932_f = TRUE;
1264 #endif
1265 #ifdef UTF8_OUTPUT_ENABLE
1266         ms_ucs_map_f = UCS_MAP_CP932;
1267 #endif
1268         break;
1269         break;
1270     case CP10001:
1271 #ifdef SHIFTJIS_CP932
1272         cp51932_f = TRUE;
1273 #endif
1274 #ifdef UTF8_OUTPUT_ENABLE
1275         ms_ucs_map_f = UCS_MAP_CP10001;
1276 #endif
1277         break;
1278     case EUC_JP:
1279         break;
1280     case EUCJP_NKF:
1281         break;
1282     case CP51932:
1283         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1284 #ifdef SHIFTJIS_CP932
1285         cp51932_f = TRUE;
1286 #endif
1287 #ifdef UTF8_OUTPUT_ENABLE
1288         ms_ucs_map_f = UCS_MAP_CP932;
1289 #endif
1290         break;
1291     case EUCJP_MS:
1292         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1293 #ifdef SHIFTJIS_CP932
1294         cp51932_f = FALSE;
1295 #endif
1296 #ifdef UTF8_OUTPUT_ENABLE
1297         ms_ucs_map_f = UCS_MAP_MS;
1298 #endif
1299         break;
1300     case EUCJP_ASCII:
1301         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1302 #ifdef SHIFTJIS_CP932
1303         cp51932_f = FALSE;
1304 #endif
1305 #ifdef UTF8_OUTPUT_ENABLE
1306         ms_ucs_map_f = UCS_MAP_ASCII;
1307 #endif
1308         break;
1309     case SHIFT_JISX0213:
1310     case SHIFT_JIS_2004:
1311         x0213_f = TRUE;
1312 #ifdef SHIFTJIS_CP932
1313         cp51932_f = FALSE;
1314         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1315 #endif
1316         break;
1317     case EUC_JISX0213:
1318     case EUC_JIS_2004:
1319         x0213_f = TRUE;
1320 #ifdef SHIFTJIS_CP932
1321         cp51932_f = FALSE;
1322 #endif
1323         break;
1324 #ifdef UTF8_INPUT_ENABLE
1325 #ifdef UNICODE_NORMALIZATION
1326     case UTF8_MAC:
1327         nfc_f = TRUE;
1328         break;
1329 #endif
1330     case UTF_16:
1331     case UTF_16BE:
1332     case UTF_16BE_BOM:
1333         input_endian = ENDIAN_BIG;
1334         break;
1335     case UTF_16LE:
1336     case UTF_16LE_BOM:
1337         input_endian = ENDIAN_LITTLE;
1338         break;
1339     case UTF_32:
1340     case UTF_32BE:
1341     case UTF_32BE_BOM:
1342         input_endian = ENDIAN_BIG;
1343         break;
1344     case UTF_32LE:
1345     case UTF_32LE_BOM:
1346         input_endian = ENDIAN_LITTLE;
1347         break;
1348 #endif
1349     }
1350 }
1351
1352 static void
1353 set_output_encoding(nkf_encoding *enc)
1354 {
1355     switch (nkf_enc_to_index(enc)) {
1356     case CP50220:
1357 #ifdef SHIFTJIS_CP932
1358         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1359 #endif
1360 #ifdef UTF8_OUTPUT_ENABLE
1361         ms_ucs_map_f = UCS_MAP_CP932;
1362 #endif
1363         break;
1364     case CP50221:
1365         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1366 #ifdef SHIFTJIS_CP932
1367         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1368 #endif
1369 #ifdef UTF8_OUTPUT_ENABLE
1370         ms_ucs_map_f = UCS_MAP_CP932;
1371 #endif
1372         break;
1373     case ISO_2022_JP:
1374 #ifdef SHIFTJIS_CP932
1375         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1376 #endif
1377         break;
1378     case ISO_2022_JP_1:
1379         x0212_f = TRUE;
1380 #ifdef SHIFTJIS_CP932
1381         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1382 #endif
1383         break;
1384     case ISO_2022_JP_3:
1385     case ISO_2022_JP_2004:
1386         x0212_f = TRUE;
1387         x0213_f = TRUE;
1388 #ifdef SHIFTJIS_CP932
1389         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1390 #endif
1391         break;
1392     case SHIFT_JIS:
1393         break;
1394     case WINDOWS_31J:
1395         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1396 #ifdef UTF8_OUTPUT_ENABLE
1397         ms_ucs_map_f = UCS_MAP_CP932;
1398 #endif
1399         break;
1400     case CP10001:
1401 #ifdef UTF8_OUTPUT_ENABLE
1402         ms_ucs_map_f = UCS_MAP_CP10001;
1403 #endif
1404         break;
1405     case EUC_JP:
1406         x0212_f = TRUE;
1407 #ifdef SHIFTJIS_CP932
1408         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1409 #endif
1410 #ifdef UTF8_OUTPUT_ENABLE
1411         ms_ucs_map_f = UCS_MAP_ASCII;
1412 #endif
1413         break;
1414     case EUCJP_NKF:
1415         x0212_f = FALSE;
1416 #ifdef SHIFTJIS_CP932
1417         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1418 #endif
1419 #ifdef UTF8_OUTPUT_ENABLE
1420         ms_ucs_map_f = UCS_MAP_ASCII;
1421 #endif
1422         break;
1423     case CP51932:
1424         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1425 #ifdef SHIFTJIS_CP932
1426         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1427 #endif
1428 #ifdef UTF8_OUTPUT_ENABLE
1429         ms_ucs_map_f = UCS_MAP_CP932;
1430 #endif
1431         break;
1432     case EUCJP_MS:
1433         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1434         x0212_f = TRUE;
1435 #ifdef UTF8_OUTPUT_ENABLE
1436         ms_ucs_map_f = UCS_MAP_MS;
1437 #endif
1438         break;
1439     case EUCJP_ASCII:
1440         if (x0201_f == NKF_UNSPECIFIED) x0201_f = FALSE;        /* -x specified implicitly */
1441         x0212_f = TRUE;
1442 #ifdef UTF8_OUTPUT_ENABLE
1443         ms_ucs_map_f = UCS_MAP_ASCII;
1444 #endif
1445         break;
1446     case SHIFT_JISX0213:
1447     case SHIFT_JIS_2004:
1448         x0213_f = TRUE;
1449 #ifdef SHIFTJIS_CP932
1450         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1451 #endif
1452         break;
1453     case EUC_JISX0213:
1454     case EUC_JIS_2004:
1455         x0212_f = TRUE;
1456         x0213_f = TRUE;
1457 #ifdef SHIFTJIS_CP932
1458         if (cp932inv_f == TRUE) cp932inv_f = FALSE;
1459 #endif
1460         break;
1461 #ifdef UTF8_OUTPUT_ENABLE
1462     case UTF_8_BOM:
1463         output_bom_f = TRUE;
1464         break;
1465     case UTF_16:
1466     case UTF_16BE_BOM:
1467         output_bom_f = TRUE;
1468         break;
1469     case UTF_16LE:
1470         output_endian = ENDIAN_LITTLE;
1471         output_bom_f = FALSE;
1472         break;
1473     case UTF_16LE_BOM:
1474         output_endian = ENDIAN_LITTLE;
1475         output_bom_f = TRUE;
1476         break;
1477     case UTF_32:
1478     case UTF_32BE_BOM:
1479         output_bom_f = TRUE;
1480         break;
1481     case UTF_32LE:
1482         output_endian = ENDIAN_LITTLE;
1483         output_bom_f = FALSE;
1484         break;
1485     case UTF_32LE_BOM:
1486         output_endian = ENDIAN_LITTLE;
1487         output_bom_f = TRUE;
1488         break;
1489 #endif
1490     }
1491 }
1492
1493 static struct input_code*
1494 find_inputcode_byfunc(nkf_char (*iconv_func)(nkf_char c2,nkf_char c1,nkf_char c0))
1495 {
1496     if (iconv_func){
1497         struct input_code *p = input_code_list;
1498         while (p->name){
1499             if (iconv_func == p->iconv_func){
1500                 return p;
1501             }
1502             p++;
1503         }
1504     }
1505     return 0;
1506 }
1507
1508 static void
1509 set_iconv(nkf_char f, nkf_char (*iconv_func)(nkf_char c2,nkf_char c1,nkf_char c0))
1510 {
1511 #ifdef INPUT_CODE_FIX
1512     if (f || !input_encoding)
1513 #endif
1514         if (estab_f != f){
1515             estab_f = f;
1516         }
1517
1518     if (iconv_func
1519 #ifdef INPUT_CODE_FIX
1520         && (f == -TRUE || !input_encoding) /* -TRUE means "FORCE" */
1521 #endif
1522        ){
1523         iconv = iconv_func;
1524     }
1525 #ifdef CHECK_OPTION
1526     if (estab_f && iconv_for_check != iconv){
1527         struct input_code *p = find_inputcode_byfunc(iconv);
1528         if (p){
1529             set_input_codename(p->name);
1530             debug(p->name);
1531         }
1532         iconv_for_check = iconv;
1533     }
1534 #endif
1535 }
1536
1537 #ifdef X0212_ENABLE
1538 static nkf_char
1539 x0212_shift(nkf_char c)
1540 {
1541     nkf_char ret = c;
1542     c &= 0x7f;
1543     if (is_eucg3(ret)){
1544         if (0x75 <= c && c <= 0x7f){
1545             ret = c + (0x109 - 0x75);
1546         }
1547     }else{
1548         if (0x75 <= c && c <= 0x7f){
1549             ret = c + (0x113 - 0x75);
1550         }
1551     }
1552     return ret;
1553 }
1554
1555
1556 static nkf_char
1557 x0212_unshift(nkf_char c)
1558 {
1559     nkf_char ret = c;
1560     if (0x7f <= c && c <= 0x88){
1561         ret = c + (0x75 - 0x7f);
1562     }else if (0x89 <= c && c <= 0x92){
1563         ret = PREFIX_EUCG3 | 0x80 | (c + (0x75 - 0x89));
1564     }
1565     return ret;
1566 }
1567 #endif /* X0212_ENABLE */
1568
1569 static int
1570 is_x0213_2_in_x0212(nkf_char c1)
1571 {
1572     static const char x0213_2_table[] =
1573         {0, 1, 0, 1, 1, 1, 0, 0, 1, 0, 0, 0, 1, 1, 1, 1};
1574     int ku = c1 - 0x20;
1575     if (ku <= 15)
1576         return x0213_2_table[ku]; /* 1, 3-5, 8, 12-15 */
1577     if (78 <= ku && ku <= 94)
1578         return 1;
1579     return 0;
1580 }
1581
1582 static nkf_char
1583 e2s_conv(nkf_char c2, nkf_char c1, nkf_char *p2, nkf_char *p1)
1584 {
1585     nkf_char ndx;
1586     if (is_eucg3(c2)){
1587         ndx = c2 & 0x7f;
1588         if (x0213_f && is_x0213_2_in_x0212(ndx)){
1589             if((0x21 <= ndx && ndx <= 0x2F)){
1590                 if (p2) *p2 = ((ndx - 1) >> 1) + 0xec - ndx / 8 * 3;
1591                 if (p1) *p1 = c1 + ((ndx & 1) ? ((c1 < 0x60) ? 0x1f : 0x20) : 0x7e);
1592                 return 0;
1593             }else if(0x6E <= ndx && ndx <= 0x7E){
1594                 if (p2) *p2 = ((ndx - 1) >> 1) + 0xbe;
1595                 if (p1) *p1 = c1 + ((ndx & 1) ? ((c1 < 0x60) ? 0x1f : 0x20) : 0x7e);
1596                 return 0;
1597             }
1598             return 1;
1599         }
1600 #ifdef X0212_ENABLE
1601         else if(nkf_isgraph(ndx)){
1602             nkf_char val = 0;
1603             const unsigned short *ptr;
1604             ptr = x0212_shiftjis[ndx - 0x21];
1605             if (ptr){
1606                 val = ptr[(c1 & 0x7f) - 0x21];
1607             }
1608             if (val){
1609                 c2 = val >> 8;
1610                 c1 = val & 0xff;
1611                 if (p2) *p2 = c2;
1612                 if (p1) *p1 = c1;
1613                 return 0;
1614             }
1615             c2 = x0212_shift(c2);
1616         }
1617 #endif /* X0212_ENABLE */
1618     }
1619     if(0x7F < c2) return 1;
1620     if (p2) *p2 = ((c2 - 1) >> 1) + ((c2 <= 0x5e) ? 0x71 : 0xb1);
1621     if (p1) *p1 = c1 + ((c2 & 1) ? ((c1 < 0x60) ? 0x1f : 0x20) : 0x7e);
1622     return 0;
1623 }
1624
1625 static nkf_char
1626 s2e_conv(nkf_char c2, nkf_char c1, nkf_char *p2, nkf_char *p1)
1627 {
1628 #if defined(SHIFTJIS_CP932) || defined(X0212_ENABLE)
1629     nkf_char val;
1630 #endif
1631     static const char shift_jisx0213_s1a3_table[5][2] ={ { 1, 8}, { 3, 4}, { 5,12}, {13,14}, {15, 0} };
1632     if (0xFC < c1) return 1;
1633 #ifdef SHIFTJIS_CP932
1634     if (!cp932inv_f && !x0213_f && is_ibmext_in_sjis(c2)){
1635         val = shiftjis_cp932[c2 - CP932_TABLE_BEGIN][c1 - 0x40];
1636         if (val){
1637             c2 = val >> 8;
1638             c1 = val & 0xff;
1639         }
1640     }
1641     if (cp932inv_f
1642         && CP932INV_TABLE_BEGIN <= c2 && c2 <= CP932INV_TABLE_END){
1643         val = cp932inv[c2 - CP932INV_TABLE_BEGIN][c1 - 0x40];
1644         if (val){
1645             c2 = val >> 8;
1646             c1 = val & 0xff;
1647         }
1648     }
1649 #endif /* SHIFTJIS_CP932 */
1650 #ifdef X0212_ENABLE
1651     if (!x0213_f && is_ibmext_in_sjis(c2)){
1652         val = shiftjis_x0212[c2 - 0xfa][c1 - 0x40];
1653         if (val){
1654             if (val > 0x7FFF){
1655                 c2 = PREFIX_EUCG3 | ((val >> 8) & 0x7f);
1656                 c1 = val & 0xff;
1657             }else{
1658                 c2 = val >> 8;
1659                 c1 = val & 0xff;
1660             }
1661             if (p2) *p2 = c2;
1662             if (p1) *p1 = c1;
1663             return 0;
1664         }
1665     }
1666 #endif
1667     if(c2 >= 0x80){
1668         if(x0213_f && c2 >= 0xF0){
1669             if(c2 <= 0xF3 || (c2 == 0xF4 && c1 < 0x9F)){ /* k=1, 3<=k<=5, k=8, 12<=k<=15 */
1670                 c2 = PREFIX_EUCG3 | 0x20 | shift_jisx0213_s1a3_table[c2 - 0xF0][0x9E < c1];
1671             }else{ /* 78<=k<=94 */
1672                 c2 = PREFIX_EUCG3 | (c2 * 2 - 0x17B);
1673                 if (0x9E < c1) c2++;
1674             }
1675         }else{
1676 #define         SJ0162  0x00e1          /* 01 - 62 ku offset */
1677 #define         SJ6394  0x0161          /* 63 - 94 ku offset */
1678             c2 = c2 + c2 - ((c2 <= 0x9F) ? SJ0162 : SJ6394);
1679             if (0x9E < c1) c2++;
1680         }
1681         if (c1 < 0x9F)
1682             c1 = c1 - ((c1 > DEL) ? SP : 0x1F);
1683         else {
1684             c1 = c1 - 0x7E;
1685         }
1686     }
1687
1688 #ifdef X0212_ENABLE
1689     c2 = x0212_unshift(c2);
1690 #endif
1691     if (p2) *p2 = c2;
1692     if (p1) *p1 = c1;
1693     return 0;
1694 }
1695
1696 #if defined(UTF8_INPUT_ENABLE) || defined(UTF8_OUTPUT_ENABLE)
1697 static void
1698 nkf_unicode_to_utf8(nkf_char val, nkf_char *p1, nkf_char *p2, nkf_char *p3, nkf_char *p4)
1699 {
1700     val &= VALUE_MASK;
1701     if (val < 0x80){
1702         *p1 = val;
1703         *p2 = 0;
1704         *p3 = 0;
1705         *p4 = 0;
1706     }else if (val < 0x800){
1707         *p1 = 0xc0 | (val >> 6);
1708         *p2 = 0x80 | (val & 0x3f);
1709         *p3 = 0;
1710         *p4 = 0;
1711     } else if (nkf_char_unicode_bmp_p(val)) {
1712         *p1 = 0xe0 |  (val >> 12);
1713         *p2 = 0x80 | ((val >>  6) & 0x3f);
1714         *p3 = 0x80 | ( val        & 0x3f);
1715         *p4 = 0;
1716     } else if (nkf_char_unicode_value_p(val)) {
1717         *p1 = 0xf0 |  (val >> 18);
1718         *p2 = 0x80 | ((val >> 12) & 0x3f);
1719         *p3 = 0x80 | ((val >>  6) & 0x3f);
1720         *p4 = 0x80 | ( val        & 0x3f);
1721     } else {
1722         *p1 = 0;
1723         *p2 = 0;
1724         *p3 = 0;
1725         *p4 = 0;
1726     }
1727 }
1728
1729 static nkf_char
1730 nkf_utf8_to_unicode(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
1731 {
1732     nkf_char wc;
1733     if (c1 <= 0x7F) {
1734         /* single byte */
1735         wc = c1;
1736     }
1737     else if (c1 <= 0xC1) {
1738         /* trail byte or invalid */
1739         return -1;
1740     }
1741     else if (c1 <= 0xDF) {
1742         /* 2 bytes */
1743         wc  = (c1 & 0x1F) << 6;
1744         wc |= (c2 & 0x3F);
1745     }
1746     else if (c1 <= 0xEF) {
1747         /* 3 bytes */
1748         wc  = (c1 & 0x0F) << 12;
1749         wc |= (c2 & 0x3F) << 6;
1750         wc |= (c3 & 0x3F);
1751     }
1752     else if (c2 <= 0xF4) {
1753         /* 4 bytes */
1754         wc  = (c1 & 0x0F) << 18;
1755         wc |= (c2 & 0x3F) << 12;
1756         wc |= (c3 & 0x3F) << 6;
1757         wc |= (c4 & 0x3F);
1758     }
1759     else {
1760         return -1;
1761     }
1762     return wc;
1763 }
1764 #endif
1765
1766 #ifdef UTF8_INPUT_ENABLE
1767 static int
1768 unicode_to_jis_common2(nkf_char c1, nkf_char c0,
1769                        const unsigned short *const *pp, nkf_char psize,
1770                        nkf_char *p2, nkf_char *p1)
1771 {
1772     nkf_char c2;
1773     const unsigned short *p;
1774     unsigned short val;
1775
1776     if (pp == 0) return 1;
1777
1778     c1 -= 0x80;
1779     if (c1 < 0 || psize <= c1) return 1;
1780     p = pp[c1];
1781     if (p == 0)  return 1;
1782
1783     c0 -= 0x80;
1784     if (c0 < 0 || sizeof_utf8_to_euc_C2 <= c0) return 1;
1785     val = p[c0];
1786     if (val == 0) return 1;
1787     if (no_cp932ext_f && (
1788                           (val>>8) == 0x2D || /* NEC special characters */
1789                           val > NKF_INT32_C(0xF300) /* IBM extended characters */
1790                          )) return 1;
1791
1792     c2 = val >> 8;
1793     if (val > 0x7FFF){
1794         c2 &= 0x7f;
1795         c2 |= PREFIX_EUCG3;
1796     }
1797     if (c2 == SO) c2 = JIS_X_0201_1976_K;
1798     c1 = val & 0xFF;
1799     if (p2) *p2 = c2;
1800     if (p1) *p1 = c1;
1801     return 0;
1802 }
1803
1804 static int
1805 unicode_to_jis_common(nkf_char c2, nkf_char c1, nkf_char c0, nkf_char *p2, nkf_char *p1)
1806 {
1807     const unsigned short *const *pp;
1808     const unsigned short *const *const *ppp;
1809     static const char no_best_fit_chars_table_C2[] =
1810     {1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1811         1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1812         1, 1, 0, 0, 1, 0, 0, 0, 0, 1, 1, 1, 2, 1, 1, 2,
1813         0, 0, 1, 1, 0, 1, 0, 1, 2, 1, 1, 1, 1, 1, 1, 1};
1814     static const char no_best_fit_chars_table_C2_ms[] =
1815     {1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1816         1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1817         1, 0, 1, 1, 0, 1, 1, 0, 0, 0, 0, 1, 1, 1, 0, 0,
1818         0, 0, 1, 1, 0, 1, 0, 1, 0, 1, 0, 1, 1, 1, 1, 0};
1819     static const char no_best_fit_chars_table_932_C2[] =
1820     {1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1821         1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1822         1, 1, 1, 1, 0, 1, 1, 0, 0, 1, 1, 1, 1, 1, 1, 1,
1823         0, 0, 1, 1, 0, 1, 0, 1, 1, 1, 1, 1, 0, 0, 0, 0};
1824     static const char no_best_fit_chars_table_932_C3[] =
1825     {1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1826         1, 1, 1, 1, 1, 1, 1, 0, 1, 1, 1, 1, 1, 1, 1, 1,
1827         1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1828         1, 1, 1, 1, 1, 1, 1, 0, 1, 1, 1, 1, 1, 1, 1, 1};
1829     nkf_char ret = 0;
1830
1831     if(c2 < 0x80){
1832         *p2 = 0;
1833         *p1 = c2;
1834     }else if(c2 < 0xe0){
1835         if(no_best_fit_chars_f){
1836             if(ms_ucs_map_f == UCS_MAP_CP932){
1837                 switch(c2){
1838                 case 0xC2:
1839                     if(no_best_fit_chars_table_932_C2[c1&0x3F]) return 1;
1840                     break;
1841                 case 0xC3:
1842                     if(no_best_fit_chars_table_932_C3[c1&0x3F]) return 1;
1843                     break;
1844                 }
1845             }else if(!cp932inv_f){
1846                 switch(c2){
1847                 case 0xC2:
1848                     if(no_best_fit_chars_table_C2[c1&0x3F]) return 1;
1849                     break;
1850                 case 0xC3:
1851                     if(no_best_fit_chars_table_932_C3[c1&0x3F]) return 1;
1852                     break;
1853                 }
1854             }else if(ms_ucs_map_f == UCS_MAP_MS){
1855                 if(c2 == 0xC2 && no_best_fit_chars_table_C2_ms[c1&0x3F]) return 1;
1856             }else if(ms_ucs_map_f == UCS_MAP_CP10001){
1857                 switch(c2){
1858                 case 0xC2:
1859                     switch(c1){
1860                     case 0xA2:
1861                     case 0xA3:
1862                     case 0xA5:
1863                     case 0xA6:
1864                     case 0xAC:
1865                     case 0xAF:
1866                     case 0xB8:
1867                         return 1;
1868                     }
1869                     break;
1870                 }
1871             }
1872         }
1873         pp =
1874             ms_ucs_map_f == UCS_MAP_CP932 ? utf8_to_euc_2bytes_932 :
1875             ms_ucs_map_f == UCS_MAP_MS ? utf8_to_euc_2bytes_ms :
1876             ms_ucs_map_f == UCS_MAP_CP10001 ? utf8_to_euc_2bytes_mac :
1877             x0213_f ? utf8_to_euc_2bytes_x0213 :
1878             utf8_to_euc_2bytes;
1879         ret =  unicode_to_jis_common2(c2, c1, pp, sizeof_utf8_to_euc_2bytes, p2, p1);
1880     }else if(c0 < 0xF0){
1881         if(no_best_fit_chars_f){
1882             if(ms_ucs_map_f == UCS_MAP_CP932){
1883                 if(c2 == 0xE3 && c1 == 0x82 && c0 == 0x94) return 1;
1884             }else if(ms_ucs_map_f == UCS_MAP_MS){
1885                 switch(c2){
1886                 case 0xE2:
1887                     switch(c1){
1888                     case 0x80:
1889                         if(c0 == 0x94 || c0 == 0x96 || c0 == 0xBE) return 1;
1890                         break;
1891                     case 0x88:
1892                         if(c0 == 0x92) return 1;
1893                         break;
1894                     }
1895                     break;
1896                 case 0xE3:
1897                     if(c1 == 0x80 || c0 == 0x9C) return 1;
1898                     break;
1899                 }
1900             }else if(ms_ucs_map_f == UCS_MAP_CP10001){
1901                 switch(c2){
1902                 case 0xE3:
1903                     switch(c1){
1904                     case 0x82:
1905                         if(c0 == 0x94) return 1;
1906                         break;
1907                     case 0x83:
1908                         if(c0 == 0xBB) return 1;
1909                         break;
1910                     }
1911                     break;
1912                 }
1913             }else{
1914                 switch(c2){
1915                 case 0xE2:
1916                     switch(c1){
1917                     case 0x80:
1918                         if(c0 == 0x95) return 1;
1919                         break;
1920                     case 0x88:
1921                         if(c0 == 0xA5) return 1;
1922                         break;
1923                     }
1924                     break;
1925                 case 0xEF:
1926                     switch(c1){
1927                     case 0xBC:
1928                         if(c0 == 0x8D) return 1;
1929                         break;
1930                     case 0xBD:
1931                         if(c0 == 0x9E && !cp932inv_f) return 1;
1932                         break;
1933                     case 0xBF:
1934                         if(0xA0 <= c0 && c0 <= 0xA5) return 1;
1935                         break;
1936                     }
1937                     break;
1938                 }
1939             }
1940         }
1941         ppp =
1942             ms_ucs_map_f == UCS_MAP_CP932 ? utf8_to_euc_3bytes_932 :
1943             ms_ucs_map_f == UCS_MAP_MS ? utf8_to_euc_3bytes_ms :
1944             ms_ucs_map_f == UCS_MAP_CP10001 ? utf8_to_euc_3bytes_mac :
1945             x0213_f ? utf8_to_euc_3bytes_x0213 :
1946             utf8_to_euc_3bytes;
1947         ret = unicode_to_jis_common2(c1, c0, ppp[c2 - 0xE0], sizeof_utf8_to_euc_C2, p2, p1);
1948     }else return -1;
1949 #ifdef SHIFTJIS_CP932
1950     if (!ret && !cp932inv_f && is_eucg3(*p2)) {
1951         nkf_char s2, s1;
1952         if (e2s_conv(*p2, *p1, &s2, &s1) == 0) {
1953             s2e_conv(s2, s1, p2, p1);
1954         }else{
1955             ret = 1;
1956         }
1957     }
1958 #endif
1959     return ret;
1960 }
1961
1962 #ifdef UTF8_OUTPUT_ENABLE
1963 #define X0213_SURROGATE_FIND(tbl, size, euc) do { \
1964         int i; \
1965         for (i = 0; i < size; i++) \
1966             if (tbl[i][0] == euc) { \
1967                 low = tbl[i][2]; \
1968                 break; \
1969             } \
1970     } while (0)
1971
1972 static nkf_char
1973 e2w_conv(nkf_char c2, nkf_char c1)
1974 {
1975     const unsigned short *p;
1976
1977     if (c2 == JIS_X_0201_1976_K) {
1978         if (ms_ucs_map_f == UCS_MAP_CP10001) {
1979             switch (c1) {
1980             case 0x20:
1981                 return 0xA0;
1982             case 0x7D:
1983                 return 0xA9;
1984             }
1985         }
1986         p = euc_to_utf8_1byte;
1987 #ifdef X0212_ENABLE
1988     } else if (is_eucg3(c2)){
1989         if(ms_ucs_map_f == UCS_MAP_ASCII&& c2 == NKF_INT32_C(0x8F22) && c1 == 0x43){
1990             return 0xA6;
1991         }
1992         c2 = (c2&0x7f) - 0x21;
1993         if (0<=c2 && c2<sizeof_euc_to_utf8_2bytes)
1994             p =
1995                 x0213_f ? x0212_to_utf8_2bytes_x0213[c2] :
1996                 x0212_to_utf8_2bytes[c2];
1997         else
1998             return 0;
1999 #endif
2000     } else {
2001         c2 &= 0x7f;
2002         c2 = (c2&0x7f) - 0x21;
2003         if (0<=c2 && c2<sizeof_euc_to_utf8_2bytes)
2004             p =
2005                 x0213_f ? euc_to_utf8_2bytes_x0213[c2] :
2006                 ms_ucs_map_f == UCS_MAP_ASCII ? euc_to_utf8_2bytes[c2] :
2007                 ms_ucs_map_f == UCS_MAP_CP10001 ? euc_to_utf8_2bytes_mac[c2] :
2008                 euc_to_utf8_2bytes_ms[c2];
2009         else
2010             return 0;
2011     }
2012     if (!p) return 0;
2013     c1 = (c1 & 0x7f) - 0x21;
2014     if (0<=c1 && c1<sizeof_euc_to_utf8_1byte) {
2015         nkf_char val = p[c1];
2016         if (x0213_f && 0xD800<=val && val<=0xDBFF) {
2017             nkf_char euc = (c2+0x21)<<8 | (c1+0x21);
2018             nkf_char low = 0;
2019             if (p==x0212_to_utf8_2bytes_x0213[c2]) {
2020                 X0213_SURROGATE_FIND(x0213_2_surrogate_table, sizeof_x0213_2_surrogate_table, euc);
2021             } else {
2022                 X0213_SURROGATE_FIND(x0213_1_surrogate_table, sizeof_x0213_1_surrogate_table, euc);
2023             }
2024             if (!low) return 0;
2025             return UTF16_TO_UTF32(val, low);
2026         } else {
2027             return val;
2028         }
2029     }
2030     return 0;
2031 }
2032
2033 static nkf_char
2034 e2w_combining(nkf_char comb, nkf_char c2, nkf_char c1)
2035 {
2036     nkf_char euc;
2037     int i;
2038     for (i = 0; i < sizeof_x0213_combining_chars; i++)
2039         if (x0213_combining_chars[i] == comb)
2040             break;
2041     if (i >= sizeof_x0213_combining_chars)
2042         return 0;
2043     euc = (c2&0x7f)<<8 | (c1&0x7f);
2044     for (i = 0; i < sizeof_x0213_combining_table; i++)
2045         if (x0213_combining_table[i][0] == euc)
2046             return x0213_combining_table[i][1];
2047     return 0;
2048 }
2049 #endif
2050
2051 static nkf_char
2052 w2e_conv(nkf_char c2, nkf_char c1, nkf_char c0, nkf_char *p2, nkf_char *p1)
2053 {
2054     nkf_char ret = 0;
2055
2056     if (!c1){
2057         *p2 = 0;
2058         *p1 = c2;
2059     }else if (0xc0 <= c2 && c2 <= 0xef) {
2060         ret =  unicode_to_jis_common(c2, c1, c0, p2, p1);
2061 #ifdef NUMCHAR_OPTION
2062         if (ret > 0){
2063             if (p2) *p2 = 0;
2064             if (p1) *p1 = nkf_char_unicode_new(nkf_utf8_to_unicode(c2, c1, c0, 0));
2065             ret = 0;
2066         }
2067 #endif
2068     }
2069     return ret;
2070 }
2071
2072 #ifdef UTF8_INPUT_ENABLE
2073 static nkf_char
2074 w16e_conv(nkf_char val, nkf_char *p2, nkf_char *p1)
2075 {
2076     nkf_char c1, c2, c3, c4;
2077     nkf_char ret = 0;
2078     val &= VALUE_MASK;
2079     if (val < 0x80) {
2080         *p2 = 0;
2081         *p1 = val;
2082     }
2083     else if (nkf_char_unicode_bmp_p(val)){
2084         nkf_unicode_to_utf8(val, &c1, &c2, &c3, &c4);
2085         ret =  unicode_to_jis_common(c1, c2, c3, p2, p1);
2086         if (ret > 0){
2087             *p2 = 0;
2088             *p1 = nkf_char_unicode_new(val);
2089             ret = 0;
2090         }
2091     }
2092     else {
2093         int i;
2094         if (x0213_f) {
2095             c1 = (val >> 10) + NKF_INT32_C(0xD7C0);   /* high surrogate */
2096             c2 = (val & 0x3FF) + NKF_INT32_C(0xDC00); /* low surrogate */
2097             for (i = 0; i < sizeof_x0213_1_surrogate_table; i++)
2098                 if (x0213_1_surrogate_table[i][1] == c1 && x0213_1_surrogate_table[i][2] == c2) {
2099                     val = x0213_1_surrogate_table[i][0];
2100                     *p2 = val >> 8;
2101                     *p1 = val & 0xFF;
2102                     return 0;
2103                 }
2104             for (i = 0; i < sizeof_x0213_2_surrogate_table; i++)
2105                 if (x0213_2_surrogate_table[i][1] == c1 && x0213_2_surrogate_table[i][2] == c2) {
2106                     val = x0213_2_surrogate_table[i][0];
2107                     *p2 = PREFIX_EUCG3 | (val >> 8);
2108                     *p1 = val & 0xFF;
2109                     return 0;
2110                 }
2111         }
2112         *p2 = 0;
2113         *p1 = nkf_char_unicode_new(val);
2114     }
2115     return ret;
2116 }
2117 #endif
2118
2119 static nkf_char
2120 e_iconv(nkf_char c2, nkf_char c1, nkf_char c0)
2121 {
2122     if (c2 == JIS_X_0201_1976_K || c2 == SS2){
2123         if (iso2022jp_f && !x0201_f) {
2124             c2 = GETA1; c1 = GETA2;
2125         } else {
2126             c2 = JIS_X_0201_1976_K;
2127             c1 &= 0x7f;
2128         }
2129 #ifdef X0212_ENABLE
2130     }else if (c2 == 0x8f){
2131         if (c0 == 0){
2132             return -1;
2133         }
2134         if (!cp51932_f && !x0213_f && 0xF5 <= c1 && c1 <= 0xFE && 0xA1 <= c0 && c0 <= 0xFE) {
2135             /* encoding is eucJP-ms, so invert to Unicode Private User Area */
2136             c1 = nkf_char_unicode_new((c1 - 0xF5) * 94 + c0 - 0xA1 + 0xE3AC);
2137             c2 = 0;
2138         } else {
2139             c2 = (c2 << 8) | (c1 & 0x7f);
2140             c1 = c0 & 0x7f;
2141 #ifdef SHIFTJIS_CP932
2142             if (cp51932_f){
2143                 nkf_char s2, s1;
2144                 if (e2s_conv(c2, c1, &s2, &s1) == 0){
2145                     s2e_conv(s2, s1, &c2, &c1);
2146                     if (c2 < 0x100){
2147                         c1 &= 0x7f;
2148                         c2 &= 0x7f;
2149                     }
2150                 }
2151             }
2152 #endif /* SHIFTJIS_CP932 */
2153         }
2154 #endif /* X0212_ENABLE */
2155     } else if ((c2 == EOF) || (c2 == 0) || c2 < SP || c2 == ISO_8859_1) {
2156         /* NOP */
2157     } else {
2158         if (!cp51932_f && ms_ucs_map_f && 0xF5 <= c2 && c2 <= 0xFE && 0xA1 <= c1 && c1 <= 0xFE) {
2159             /* encoding is eucJP-ms, so invert to Unicode Private User Area */
2160             c1 = nkf_char_unicode_new((c2 - 0xF5) * 94 + c1 - 0xA1 + 0xE000);
2161             c2 = 0;
2162         } else {
2163             c1 &= 0x7f;
2164             c2 &= 0x7f;
2165 #ifdef SHIFTJIS_CP932
2166             if (cp51932_f && 0x79 <= c2 && c2 <= 0x7c){
2167                 nkf_char s2, s1;
2168                 if (e2s_conv(c2, c1, &s2, &s1) == 0){
2169                     s2e_conv(s2, s1, &c2, &c1);
2170                     if (c2 < 0x100){
2171                         c1 &= 0x7f;
2172                         c2 &= 0x7f;
2173                     }
2174                 }
2175             }
2176 #endif /* SHIFTJIS_CP932 */
2177         }
2178     }
2179     (*oconv)(c2, c1);
2180     return 0;
2181 }
2182
2183 static nkf_char
2184 s_iconv(ARG_UNUSED nkf_char c2, nkf_char c1, ARG_UNUSED nkf_char c0)
2185 {
2186     if (c2 == JIS_X_0201_1976_K || (0xA1 <= c2 && c2 <= 0xDF)) {
2187         if (iso2022jp_f && !x0201_f) {
2188             c2 = GETA1; c1 = GETA2;
2189         } else {
2190             c1 &= 0x7f;
2191         }
2192     } else if ((c2 == EOF) || (c2 == 0) || c2 < SP) {
2193         /* NOP */
2194     } else if (!x0213_f && 0xF0 <= c2 && c2 <= 0xF9 && 0x40 <= c1 && c1 <= 0xFC) {
2195         /* CP932 UDC */
2196         if(c1 == 0x7F) return 0;
2197         c1 = nkf_char_unicode_new((c2 - 0xF0) * 188 + (c1 - 0x40 - (0x7E < c1)) + 0xE000);
2198         c2 = 0;
2199     } else {
2200         nkf_char ret = s2e_conv(c2, c1, &c2, &c1);
2201         if (ret) return ret;
2202     }
2203     (*oconv)(c2, c1);
2204     return 0;
2205 }
2206
2207 static int
2208 x0213_wait_combining_p(nkf_char wc)
2209 {
2210     int i;
2211     for (i = 0; i < sizeof_x0213_combining_table; i++) {
2212         if (x0213_combining_table[i][1] == wc) {
2213             return TRUE;
2214         }
2215     }
2216     return FALSE;
2217 }
2218
2219 static int
2220 x0213_combining_p(nkf_char wc)
2221 {
2222     int i;
2223     for (i = 0; i < sizeof_x0213_combining_chars; i++) {
2224         if (x0213_combining_chars[i] == wc) {
2225             return TRUE;
2226         }
2227     }
2228     return FALSE;
2229 }
2230
2231 static nkf_char
2232 w_iconv(nkf_char c1, nkf_char c2, nkf_char c3)
2233 {
2234     nkf_char ret = 0, c4 = 0;
2235     static const char w_iconv_utf8_1st_byte[] =
2236     { /* 0xC0 - 0xFF */
2237         20, 20, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21,
2238         21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21, 21,
2239         30, 31, 31, 31, 31, 31, 31, 31, 31, 31, 31, 31, 31, 32, 33, 33,
2240         40, 41, 41, 41, 42, 43, 43, 43, 50, 50, 50, 50, 60, 60, 70, 70};
2241
2242     if (c3 > 0xFF) {
2243         c4 = c3 & 0xFF;
2244         c3 >>= 8;
2245     }
2246
2247     if (c1 < 0 || 0xff < c1) {
2248     }else if (c1 == 0) { /* 0 : 1 byte*/
2249         c3 = 0;
2250     } else if ((c1 & 0xC0) == 0x80) { /* 0x80-0xbf : trail byte */
2251         return 0;
2252     } else{
2253         switch (w_iconv_utf8_1st_byte[c1 - 0xC0]) {
2254         case 21:
2255             if (c2 < 0x80 || 0xBF < c2) return 0;
2256             break;
2257         case 30:
2258             if (c3 == 0) return -1;
2259             if (c2 < 0xA0 || 0xBF < c2 || (c3 & 0xC0) != 0x80)
2260                 return 0;
2261             break;
2262         case 31:
2263         case 33:
2264             if (c3 == 0) return -1;
2265             if ((c2 & 0xC0) != 0x80 || (c3 & 0xC0) != 0x80)
2266                 return 0;
2267             break;
2268         case 32:
2269             if (c3 == 0) return -1;
2270             if (c2 < 0x80 || 0x9F < c2 || (c3 & 0xC0) != 0x80)
2271                 return 0;
2272             break;
2273         case 40:
2274             if (c3 == 0) return -2;
2275             if (c2 < 0x90 || 0xBF < c2 || (c3 & 0xC0) != 0x80 || (c4 & 0xC0) != 0x80)
2276                 return 0;
2277             break;
2278         case 41:
2279             if (c3 == 0) return -2;
2280             if (c2 < 0x80 || 0xBF < c2 || (c3 & 0xC0) != 0x80 || (c4 & 0xC0) != 0x80)
2281                 return 0;
2282             break;
2283         case 42:
2284             if (c3 == 0) return -2;
2285             if (c2 < 0x80 || 0x8F < c2 || (c3 & 0xC0) != 0x80 || (c4 & 0xC0) != 0x80)
2286                 return 0;
2287             break;
2288         default:
2289             return 0;
2290             break;
2291         }
2292     }
2293     if (c1 == 0 || c1 == EOF){
2294     } else if ((c1 & 0xf8) == 0xf0) { /* 4 bytes */
2295         c2 = nkf_char_unicode_new(nkf_utf8_to_unicode(c1, c2, c3, c4));
2296         c1 = 0;
2297     } else {
2298         if (x0213_f && x0213_wait_combining_p(nkf_utf8_to_unicode(c1, c2, c3, c4)))
2299             return -3;
2300         ret = w2e_conv(c1, c2, c3, &c1, &c2);
2301     }
2302     if (ret == 0){
2303         (*oconv)(c1, c2);
2304     }
2305     return ret;
2306 }
2307
2308 static nkf_char
2309 w_iconv_nocombine(nkf_char c1, nkf_char c2, nkf_char c3)
2310 {
2311     /* continue from the line below 'return -3;' in w_iconv() */
2312     nkf_char ret = w2e_conv(c1, c2, c3, &c1, &c2);
2313     if (ret == 0){
2314         (*oconv)(c1, c2);
2315     }
2316     return ret;
2317 }
2318
2319 #define NKF_ICONV_INVALID_CODE_RANGE -13
2320 #define NKF_ICONV_WAIT_COMBINING_CHAR -14
2321 #define NKF_ICONV_NOT_COMBINED -15
2322 static size_t
2323 unicode_iconv(nkf_char wc, int nocombine)
2324 {
2325     nkf_char c1, c2;
2326     int ret = 0;
2327
2328     if (wc < 0x80) {
2329         c2 = 0;
2330         c1 = wc;
2331     }else if ((wc>>11) == 27) {
2332         /* unpaired surrogate */
2333         return NKF_ICONV_INVALID_CODE_RANGE;
2334     }else if (wc < 0xFFFF) {
2335         if (!nocombine && x0213_f && x0213_wait_combining_p(wc))
2336             return NKF_ICONV_WAIT_COMBINING_CHAR;
2337         ret = w16e_conv(wc, &c2, &c1);
2338         if (ret) return ret;
2339     }else if (wc < 0x10FFFF) {
2340         c2 = 0;
2341         c1 = nkf_char_unicode_new(wc);
2342     } else {
2343         return NKF_ICONV_INVALID_CODE_RANGE;
2344     }
2345     (*oconv)(c2, c1);
2346     return 0;
2347 }
2348
2349 static nkf_char
2350 unicode_iconv_combine(nkf_char wc, nkf_char wc2)
2351 {
2352     nkf_char c1, c2;
2353     int i;
2354
2355     if (wc2 < 0x80) {
2356         return NKF_ICONV_NOT_COMBINED;
2357     }else if ((wc2>>11) == 27) {
2358         /* unpaired surrogate */
2359         return NKF_ICONV_INVALID_CODE_RANGE;
2360     }else if (wc2 < 0xFFFF) {
2361         if (!x0213_combining_p(wc2))
2362             return NKF_ICONV_NOT_COMBINED;
2363         for (i = 0; i < sizeof_x0213_combining_table; i++) {
2364             if (x0213_combining_table[i][1] == wc &&
2365                 x0213_combining_table[i][2] == wc2) {
2366                 c2 = x0213_combining_table[i][0] >> 8;
2367                 c1 = x0213_combining_table[i][0] & 0x7f;
2368                 (*oconv)(c2, c1);
2369                 return 0;
2370             }
2371         }
2372     }else if (wc2 < 0x10FFFF) {
2373         return NKF_ICONV_NOT_COMBINED;
2374     } else {
2375         return NKF_ICONV_INVALID_CODE_RANGE;
2376     }
2377     return NKF_ICONV_NOT_COMBINED;
2378 }
2379
2380 static nkf_char
2381 w_iconv_combine(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4, nkf_char c5, nkf_char c6)
2382 {
2383     nkf_char wc, wc2;
2384     wc = nkf_utf8_to_unicode(c1, c2, c3, 0);
2385     wc2 = nkf_utf8_to_unicode(c4, c5, c6, 0);
2386     if (wc2 < 0)
2387         return wc2;
2388     return unicode_iconv_combine(wc, wc2);
2389 }
2390
2391 #define NKF_ICONV_NEED_ONE_MORE_BYTE (size_t)-1
2392 #define NKF_ICONV_NEED_TWO_MORE_BYTES (size_t)-2
2393 static size_t
2394 nkf_iconv_utf_16(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
2395 {
2396     nkf_char wc;
2397
2398     if (c1 == EOF) {
2399         (*oconv)(EOF, 0);
2400         return 0;
2401     }
2402
2403     if (input_endian == ENDIAN_BIG) {
2404         if (0xD8 <= c1 && c1 <= 0xDB) {
2405             if (0xDC <= c3 && c3 <= 0xDF) {
2406                 wc = UTF16_TO_UTF32(c1 << 8 | c2, c3 << 8 | c4);
2407             } else return NKF_ICONV_NEED_TWO_MORE_BYTES;
2408         } else {
2409             wc = c1 << 8 | c2;
2410         }
2411     } else {
2412         if (0xD8 <= c2 && c2 <= 0xDB) {
2413             if (0xDC <= c4 && c4 <= 0xDF) {
2414                 wc = UTF16_TO_UTF32(c2 << 8 | c1, c4 << 8 | c3);
2415             } else return NKF_ICONV_NEED_TWO_MORE_BYTES;
2416         } else {
2417             wc = c2 << 8 | c1;
2418         }
2419     }
2420
2421     return (*unicode_iconv)(wc, FALSE);
2422 }
2423
2424 static size_t
2425 nkf_iconv_utf_16_combine(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
2426 {
2427     nkf_char wc, wc2;
2428
2429     if (input_endian == ENDIAN_BIG) {
2430         if (0xD8 <= c3 && c3 <= 0xDB) {
2431             return NKF_ICONV_NOT_COMBINED;
2432         } else {
2433             wc = c1 << 8 | c2;
2434             wc2 = c3 << 8 | c4;
2435         }
2436     } else {
2437         if (0xD8 <= c2 && c2 <= 0xDB) {
2438             return NKF_ICONV_NOT_COMBINED;
2439         } else {
2440             wc = c2 << 8 | c1;
2441             wc2 = c4 << 8 | c3;
2442         }
2443     }
2444
2445     return unicode_iconv_combine(wc, wc2);
2446 }
2447
2448 static size_t
2449 nkf_iconv_utf_16_nocombine(nkf_char c1, nkf_char c2)
2450 {
2451     nkf_char wc;
2452     if (input_endian == ENDIAN_BIG)
2453         wc = c1 << 8 | c2;
2454     else
2455         wc = c2 << 8 | c1;
2456     return (*unicode_iconv)(wc, TRUE);
2457 }
2458
2459 static nkf_char
2460 w_iconv16(nkf_char c2, nkf_char c1, ARG_UNUSED nkf_char c0)
2461 {
2462     (*oconv)(c2, c1);
2463     return 16; /* different from w_iconv32 */
2464 }
2465
2466 static nkf_char
2467 w_iconv32(nkf_char c2, nkf_char c1, ARG_UNUSED nkf_char c0)
2468 {
2469     (*oconv)(c2, c1);
2470     return 32; /* different from w_iconv16 */
2471 }
2472
2473 static nkf_char
2474 utf32_to_nkf_char(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
2475 {
2476     nkf_char wc;
2477
2478     switch(input_endian){
2479     case ENDIAN_BIG:
2480         wc = c2 << 16 | c3 << 8 | c4;
2481         break;
2482     case ENDIAN_LITTLE:
2483         wc = c3 << 16 | c2 << 8 | c1;
2484         break;
2485     case ENDIAN_2143:
2486         wc = c1 << 16 | c4 << 8 | c3;
2487         break;
2488     case ENDIAN_3412:
2489         wc = c4 << 16 | c1 << 8 | c2;
2490         break;
2491     default:
2492         return NKF_ICONV_INVALID_CODE_RANGE;
2493     }
2494     return wc;
2495 }
2496
2497 static size_t
2498 nkf_iconv_utf_32(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
2499 {
2500     nkf_char wc;
2501
2502     if (c1 == EOF) {
2503         (*oconv)(EOF, 0);
2504         return 0;
2505     }
2506
2507     wc = utf32_to_nkf_char(c1, c2, c3, c4);
2508     if (wc < 0)
2509         return wc;
2510
2511     return (*unicode_iconv)(wc, FALSE);
2512 }
2513
2514 static nkf_char
2515 nkf_iconv_utf_32_combine(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4, nkf_char c5, nkf_char c6, nkf_char c7, nkf_char c8)
2516 {
2517     nkf_char wc, wc2;
2518
2519     wc = utf32_to_nkf_char(c1, c2, c3, c4);
2520     if (wc < 0)
2521         return wc;
2522     wc2 = utf32_to_nkf_char(c5, c6, c7, c8);
2523     if (wc2 < 0)
2524         return wc2;
2525
2526     return unicode_iconv_combine(wc, wc2);
2527 }
2528
2529 static size_t
2530 nkf_iconv_utf_32_nocombine(nkf_char c1, nkf_char c2, nkf_char c3, nkf_char c4)
2531 {
2532     nkf_char wc;
2533
2534     wc = utf32_to_nkf_char(c1, c2, c3, c4);
2535     return (*unicode_iconv)(wc, TRUE);
2536 }
2537 #endif
2538
2539 #define output_ascii_escape_sequence(mode) do { \
2540             if (output_mode != ASCII && output_mode != ISO_8859_1) { \
2541                     (*o_putc)(ESC); \
2542                     (*o_putc)('('); \
2543                     (*o_putc)(ascii_intro); \
2544                     output_mode = mode; \
2545             } \
2546     } while (0)
2547
2548 static void
2549 output_escape_sequence(int mode)
2550 {
2551     if (output_mode == mode)
2552         return;
2553     switch(mode) {
2554     case ISO_8859_1:
2555         (*o_putc)(ESC);
2556         (*o_putc)('.');
2557         (*o_putc)('A');
2558         break;
2559     case JIS_X_0201_1976_K:
2560         (*o_putc)(ESC);
2561         (*o_putc)('(');
2562         (*o_putc)('I');
2563         break;
2564     case JIS_X_0208:
2565         (*o_putc)(ESC);
2566         (*o_putc)('$');
2567         (*o_putc)(kanji_intro);
2568         break;
2569     case JIS_X_0212:
2570         (*o_putc)(ESC);
2571         (*o_putc)('$');
2572         (*o_putc)('(');
2573         (*o_putc)('D');
2574         break;
2575     case JIS_X_0213_1:
2576         (*o_putc)(ESC);
2577         (*o_putc)('$');
2578         (*o_putc)('(');
2579         (*o_putc)('Q');
2580         break;
2581     case JIS_X_0213_2:
2582         (*o_putc)(ESC);
2583         (*o_putc)('$');
2584         (*o_putc)('(');
2585         (*o_putc)('P');
2586         break;
2587     }
2588     output_mode = mode;
2589 }
2590
2591 static void
2592 j_oconv(nkf_char c2, nkf_char c1)
2593 {
2594 #ifdef NUMCHAR_OPTION
2595     if (c2 == 0 && nkf_char_unicode_p(c1)){
2596         w16e_conv(c1, &c2, &c1);
2597         if (c2 == 0 && nkf_char_unicode_p(c1)){
2598             c2 = c1 & VALUE_MASK;
2599             if (ms_ucs_map_f && 0xE000 <= c2 && c2 <= 0xE757) {
2600                 /* CP5022x UDC */
2601                 c1 &= 0xFFF;
2602                 c2 = 0x7F + c1 / 94;
2603                 c1 = 0x21 + c1 % 94;
2604             } else {
2605                 if (encode_fallback) (*encode_fallback)(c1);
2606                 return;
2607             }
2608         }
2609     }
2610 #endif
2611     if (c2 == 0) {
2612         output_ascii_escape_sequence(ASCII);
2613         (*o_putc)(c1);
2614     }
2615     else if (c2 == EOF) {
2616         output_ascii_escape_sequence(ASCII);
2617         (*o_putc)(EOF);
2618     }
2619     else if (c2 == ISO_8859_1) {
2620         output_ascii_escape_sequence(ISO_8859_1);
2621         (*o_putc)(c1|0x80);
2622     }
2623     else if (c2 == JIS_X_0201_1976_K) {
2624         output_escape_sequence(JIS_X_0201_1976_K);
2625         (*o_putc)(c1);
2626 #ifdef X0212_ENABLE
2627     } else if (is_eucg3(c2)){
2628         output_escape_sequence(x0213_f ? JIS_X_0213_2 : JIS_X_0212);
2629         (*o_putc)(c2 & 0x7f);
2630         (*o_putc)(c1);
2631 #endif
2632     } else {
2633         if(ms_ucs_map_f
2634            ? c2<0x20 || 0x92<c2 || c1<0x20 || 0x7e<c1
2635            : c2<0x20 || 0x7e<c2 || c1<0x20 || 0x7e<c1) return;
2636         output_escape_sequence(x0213_f ? JIS_X_0213_1 : JIS_X_0208);
2637         (*o_putc)(c2);
2638         (*o_putc)(c1);
2639     }
2640 }
2641
2642 static void
2643 e_oconv(nkf_char c2, nkf_char c1)
2644 {
2645     if (c2 == 0 && nkf_char_unicode_p(c1)){
2646         w16e_conv(c1, &c2, &c1);
2647         if (c2 == 0 && nkf_char_unicode_p(c1)){
2648             c2 = c1 & VALUE_MASK;
2649             if (x0212_f && 0xE000 <= c2 && c2 <= 0xE757) {
2650                 /* eucJP-ms UDC */
2651                 c1 &= 0xFFF;
2652                 c2 = c1 / 94;
2653                 c2 += c2 < 10 ? 0x75 : 0x8FEB;
2654                 c1 = 0x21 + c1 % 94;
2655                 if (is_eucg3(c2)){
2656                     (*o_putc)(0x8f);
2657                     (*o_putc)((c2 & 0x7f) | 0x080);
2658                     (*o_putc)(c1 | 0x080);
2659                 }else{
2660                     (*o_putc)((c2 & 0x7f) | 0x080);
2661                     (*o_putc)(c1 | 0x080);
2662                 }
2663                 return;
2664             } else {
2665                 if (encode_fallback) (*encode_fallback)(c1);
2666                 return;
2667             }
2668         }
2669     }
2670
2671     if (c2 == EOF) {
2672         (*o_putc)(EOF);
2673     } else if (c2 == 0) {
2674         output_mode = ASCII;
2675         (*o_putc)(c1);
2676     } else if (c2 == JIS_X_0201_1976_K) {
2677         output_mode = EUC_JP;
2678         (*o_putc)(SS2); (*o_putc)(c1|0x80);
2679     } else if (c2 == ISO_8859_1) {
2680         output_mode = ISO_8859_1;
2681         (*o_putc)(c1 | 0x080);
2682 #ifdef X0212_ENABLE
2683     } else if (is_eucg3(c2)){
2684         output_mode = EUC_JP;
2685 #ifdef SHIFTJIS_CP932
2686         if (!cp932inv_f){
2687             nkf_char s2, s1;
2688             if (e2s_conv(c2, c1, &s2, &s1) == 0){
2689                 s2e_conv(s2, s1, &c2, &c1);
2690             }
2691         }
2692 #endif
2693         if (c2 == 0) {
2694             output_mode = ASCII;
2695             (*o_putc)(c1);
2696         }else if (is_eucg3(c2)){
2697             if (x0212_f){
2698                 (*o_putc)(0x8f);
2699                 (*o_putc)((c2 & 0x7f) | 0x080);
2700                 (*o_putc)(c1 | 0x080);
2701             }
2702         }else{
2703             (*o_putc)((c2 & 0x7f) | 0x080);
2704             (*o_putc)(c1 | 0x080);
2705         }
2706 #endif
2707     } else {
2708         if (!nkf_isgraph(c1) || !nkf_isgraph(c2)) {
2709             set_iconv(FALSE, 0);
2710             return; /* too late to rescue this char */
2711         }
2712         output_mode = EUC_JP;
2713         (*o_putc)(c2 | 0x080);
2714         (*o_putc)(c1 | 0x080);
2715     }
2716 }
2717
2718 static void
2719 s_oconv(nkf_char c2, nkf_char c1)
2720 {
2721 #ifdef NUMCHAR_OPTION
2722     if (c2 == 0 && nkf_char_unicode_p(c1)){
2723         w16e_conv(c1, &c2, &c1);
2724         if (c2 == 0 && nkf_char_unicode_p(c1)){
2725             c2 = c1 & VALUE_MASK;
2726             if (!x0213_f && 0xE000 <= c2 && c2 <= 0xE757) {
2727                 /* CP932 UDC */
2728                 c1 &= 0xFFF;
2729                 c2 = c1 / 188 + (cp932inv_f ? 0xF0 : 0xEB);
2730                 c1 = c1 % 188;
2731                 c1 += 0x40 + (c1 > 0x3e);
2732                 (*o_putc)(c2);
2733                 (*o_putc)(c1);
2734                 return;
2735             } else {
2736                 if(encode_fallback)(*encode_fallback)(c1);
2737                 return;
2738             }
2739         }
2740     }
2741 #endif
2742     if (c2 == EOF) {
2743         (*o_putc)(EOF);
2744         return;
2745     } else if (c2 == 0) {
2746         output_mode = ASCII;
2747         (*o_putc)(c1);
2748     } else if (c2 == JIS_X_0201_1976_K) {
2749         output_mode = SHIFT_JIS;
2750         (*o_putc)(c1|0x80);
2751     } else if (c2 == ISO_8859_1) {
2752         output_mode = ISO_8859_1;
2753         (*o_putc)(c1 | 0x080);
2754 #ifdef X0212_ENABLE
2755     } else if (is_eucg3(c2)){
2756         output_mode = SHIFT_JIS;
2757         if (e2s_conv(c2, c1, &c2, &c1) == 0){
2758             (*o_putc)(c2);
2759             (*o_putc)(c1);
2760         }
2761 #endif
2762     } else {
2763         if (!nkf_isprint(c1) || !nkf_isprint(c2)) {
2764             set_iconv(FALSE, 0);
2765             return; /* too late to rescue this char */
2766         }
2767         output_mode = SHIFT_JIS;
2768         e2s_conv(c2, c1, &c2, &c1);
2769
2770 #ifdef SHIFTJIS_CP932
2771         if (cp932inv_f
2772             && CP932INV_TABLE_BEGIN <= c2 && c2 <= CP932INV_TABLE_END){
2773             nkf_char c = cp932inv[c2 - CP932INV_TABLE_BEGIN][c1 - 0x40];
2774             if (c){
2775                 c2 = c >> 8;
2776                 c1 = c & 0xff;
2777             }
2778         }
2779 #endif /* SHIFTJIS_CP932 */
2780
2781         (*o_putc)(c2);
2782         if (prefix_table[(unsigned char)c1]){
2783             (*o_putc)(prefix_table[(unsigned char)c1]);
2784         }
2785         (*o_putc)(c1);
2786     }
2787 }
2788
2789 #ifdef UTF8_OUTPUT_ENABLE
2790 #define OUTPUT_UTF8(val) do { \
2791         nkf_unicode_to_utf8(val, &c1, &c2, &c3, &c4); \
2792         (*o_putc)(c1); \
2793         if (c2) (*o_putc)(c2); \
2794         if (c3) (*o_putc)(c3); \
2795         if (c4) (*o_putc)(c4); \
2796     } while (0)
2797
2798 static void
2799 w_oconv(nkf_char c2, nkf_char c1)
2800 {
2801     nkf_char c3, c4;
2802     nkf_char val, val2;
2803
2804     if (output_bom_f) {
2805         output_bom_f = FALSE;
2806         (*o_putc)('\357');
2807         (*o_putc)('\273');
2808         (*o_putc)('\277');
2809     }
2810
2811     if (c2 == EOF) {
2812         (*o_putc)(EOF);
2813         return;
2814     }
2815
2816     if (c2 == 0 && nkf_char_unicode_p(c1)){
2817         val = c1 & VALUE_MASK;
2818         OUTPUT_UTF8(val);
2819         return;
2820     }
2821
2822     if (c2 == 0) {
2823         (*o_putc)(c1);
2824     } else {
2825         val = e2w_conv(c2, c1);
2826         if (val){
2827             val2 = e2w_combining(val, c2, c1);
2828             if (val2)
2829                 OUTPUT_UTF8(val2);
2830             OUTPUT_UTF8(val);
2831         }
2832     }
2833 }
2834
2835 #define OUTPUT_UTF16_BYTES(c1, c2) do { \
2836         if (output_endian == ENDIAN_LITTLE){ \
2837             (*o_putc)(c1); \
2838             (*o_putc)(c2); \
2839         }else{ \
2840             (*o_putc)(c2); \
2841             (*o_putc)(c1); \
2842         } \
2843     } while (0)
2844
2845 #define OUTPUT_UTF16(val) do { \
2846         if (nkf_char_unicode_bmp_p(val)) { \
2847             c2 = (val >> 8) & 0xff; \
2848             c1 = val & 0xff; \
2849             OUTPUT_UTF16_BYTES(c1, c2); \
2850         } else { \
2851             val &= VALUE_MASK; \
2852             if (val <= UNICODE_MAX) { \
2853                 c2 = (val >> 10) + NKF_INT32_C(0xD7C0);   /* high surrogate */ \
2854                 c1 = (val & 0x3FF) + NKF_INT32_C(0xDC00); /* low surrogate */ \
2855                 OUTPUT_UTF16_BYTES(c2 & 0xff, (c2 >> 8) & 0xff); \
2856                 OUTPUT_UTF16_BYTES(c1 & 0xff, (c1 >> 8) & 0xff); \
2857             } \
2858         } \
2859     } while (0)
2860
2861 static void
2862 w_oconv16(nkf_char c2, nkf_char c1)
2863 {
2864     if (output_bom_f) {
2865         output_bom_f = FALSE;
2866         OUTPUT_UTF16_BYTES(0xFF, 0xFE);
2867     }
2868
2869     if (c2 == EOF) {
2870         (*o_putc)(EOF);
2871         return;
2872     }
2873
2874     if (c2 == 0 && nkf_char_unicode_p(c1)) {
2875         OUTPUT_UTF16(c1);
2876     } else if (c2) {
2877         nkf_char val, val2;
2878         val = e2w_conv(c2, c1);
2879         if (!val) return;
2880         val2 = e2w_combining(val, c2, c1);
2881         if (val2)
2882             OUTPUT_UTF16(val2);
2883         OUTPUT_UTF16(val);
2884     } else {
2885         OUTPUT_UTF16_BYTES(c1, c2);
2886     }
2887 }
2888
2889 #define OUTPUT_UTF32(c) do { \
2890         if (output_endian == ENDIAN_LITTLE){ \
2891             (*o_putc)( (c)        & 0xFF); \
2892             (*o_putc)(((c) >>  8) & 0xFF); \
2893             (*o_putc)(((c) >> 16) & 0xFF); \
2894             (*o_putc)(0); \
2895         }else{ \
2896             (*o_putc)(0); \
2897             (*o_putc)(((c) >> 16) & 0xFF); \
2898             (*o_putc)(((c) >>  8) & 0xFF); \
2899             (*o_putc)( (c)        & 0xFF); \
2900         } \
2901     } while (0)
2902
2903 static void
2904 w_oconv32(nkf_char c2, nkf_char c1)
2905 {
2906     if (output_bom_f) {
2907         output_bom_f = FALSE;
2908         if (output_endian == ENDIAN_LITTLE){
2909             (*o_putc)(0xFF);
2910             (*o_putc)(0xFE);
2911             (*o_putc)(0);
2912             (*o_putc)(0);
2913         }else{
2914             (*o_putc)(0);
2915             (*o_putc)(0);
2916             (*o_putc)(0xFE);
2917             (*o_putc)(0xFF);
2918         }
2919     }
2920
2921     if (c2 == EOF) {
2922         (*o_putc)(EOF);
2923         return;
2924     }
2925
2926     if (c2 == ISO_8859_1) {
2927         c1 |= 0x80;
2928     } else if (c2 == 0 && nkf_char_unicode_p(c1)) {
2929         c1 &= VALUE_MASK;
2930     } else if (c2) {
2931         nkf_char val, val2;
2932         val = e2w_conv(c2, c1);
2933         if (!val) return;
2934         val2 = e2w_combining(val, c2, c1);
2935         if (val2)
2936             OUTPUT_UTF32(val2);
2937         c1 = val;
2938     }
2939     OUTPUT_UTF32(c1);
2940 }
2941 #endif
2942
2943 #define SCORE_L2       (1)                   /* Kanji Level 2 */
2944 #define SCORE_KANA     (SCORE_L2 << 1)       /* Halfwidth Katakana */
2945 #define SCORE_DEPEND   (SCORE_KANA << 1)     /* MD Characters */
2946 #define SCORE_CP932    (SCORE_DEPEND << 1)   /* IBM extended characters */
2947 #define SCORE_X0212    (SCORE_CP932 << 1)    /* JIS X 0212 */
2948 #define SCORE_X0213    (SCORE_X0212 << 1)    /* JIS X 0213 */
2949 #define SCORE_NO_EXIST (SCORE_X0213 << 1)    /* Undefined Characters */
2950 #define SCORE_iMIME    (SCORE_NO_EXIST << 1) /* MIME selected */
2951 #define SCORE_ERROR    (SCORE_iMIME << 1) /* Error */
2952
2953 #define SCORE_INIT (SCORE_iMIME)
2954
2955 static const nkf_char score_table_A0[] = {
2956     0, 0, 0, 0,
2957     0, 0, 0, 0,
2958     0, SCORE_DEPEND, SCORE_DEPEND, SCORE_DEPEND,
2959     SCORE_DEPEND, SCORE_DEPEND, SCORE_DEPEND, SCORE_X0213,
2960 };
2961
2962 static const nkf_char score_table_F0[] = {
2963     SCORE_L2, SCORE_L2, SCORE_L2, SCORE_L2,
2964     SCORE_L2, SCORE_DEPEND, SCORE_X0213, SCORE_X0213,
2965     SCORE_DEPEND, SCORE_DEPEND, SCORE_CP932, SCORE_CP932,
2966     SCORE_CP932, SCORE_X0213, SCORE_X0213, SCORE_ERROR,
2967 };
2968
2969 static const nkf_char score_table_8FA0[] = {
2970     0, SCORE_X0213, SCORE_X0212, SCORE_X0213,
2971     SCORE_X0213, SCORE_X0213, SCORE_X0212, SCORE_X0212,
2972     SCORE_X0213, SCORE_X0212, SCORE_X0212, SCORE_X0212,
2973     SCORE_X0213, SCORE_X0213, SCORE_X0213, SCORE_X0213,
2974 };
2975
2976 static const nkf_char score_table_8FE0[] = {
2977     SCORE_X0212, SCORE_X0212, SCORE_X0212, SCORE_X0212,
2978     SCORE_X0212, SCORE_X0212, SCORE_X0212, SCORE_X0212,
2979     SCORE_X0212, SCORE_X0212, SCORE_X0212, SCORE_X0212,
2980     SCORE_X0212, SCORE_X0212, SCORE_X0213, SCORE_X0213,
2981 };
2982
2983 static const nkf_char score_table_8FF0[] = {
2984     SCORE_X0213, SCORE_X0213, SCORE_X0213, SCORE_X0212,
2985     SCORE_X0212, SCORE_X0213, SCORE_X0213, SCORE_X0213,
2986     SCORE_X0213, SCORE_X0213, SCORE_X0213, SCORE_X0213,
2987     SCORE_X0213, SCORE_X0213, SCORE_X0213, SCORE_X0213,
2988 };
2989
2990 static void
2991 set_code_score(struct input_code *ptr, nkf_char score)
2992 {
2993     if (ptr){
2994         ptr->score |= score;
2995     }
2996 }
2997
2998 static void
2999 clr_code_score(struct input_code *ptr, nkf_char score)
3000 {
3001     if (ptr){
3002         ptr->score &= ~score;
3003     }
3004 }
3005
3006 static void
3007 code_score(struct input_code *ptr)
3008 {
3009     nkf_char c2 = ptr->buf[0];
3010     nkf_char c1 = ptr->buf[1];
3011     if (c2 < 0){
3012         set_code_score(ptr, SCORE_ERROR);
3013     }else if (c2 == SS2){
3014         set_code_score(ptr, SCORE_KANA);
3015     }else if (c2 == 0x8f){
3016         if ((c1 & 0x70) == 0x20){
3017             set_code_score(ptr, score_table_8FA0[c1 & 0x0f]);
3018         }else if ((c1 & 0x70) == 0x60){
3019             set_code_score(ptr, score_table_8FE0[c1 & 0x0f]);
3020         }else if ((c1 & 0x70) == 0x70){
3021             set_code_score(ptr, score_table_8FF0[c1 & 0x0f]);
3022         }else{
3023             set_code_score(ptr, SCORE_X0212);
3024         }
3025 #ifdef UTF8_OUTPUT_ENABLE
3026     }else if (!e2w_conv(c2, c1)){
3027         set_code_score(ptr, SCORE_NO_EXIST);
3028 #endif
3029     }else if ((c2 & 0x70) == 0x20){
3030         set_code_score(ptr, score_table_A0[c2 & 0x0f]);
3031     }else if ((c2 & 0x70) == 0x70){
3032         set_code_score(ptr, score_table_F0[c2 & 0x0f]);
3033     }else if ((c2 & 0x70) >= 0x50){
3034         set_code_score(ptr, SCORE_L2);
3035     }
3036 }
3037
3038 static void
3039 status_disable(struct input_code *ptr)
3040 {
3041     ptr->stat = -1;
3042     ptr->buf[0] = -1;
3043     code_score(ptr);
3044     if (iconv == ptr->iconv_func) set_iconv(FALSE, 0);
3045 }
3046
3047 static void
3048 status_push_ch(struct input_code *ptr, nkf_char c)
3049 {
3050     ptr->buf[ptr->index++] = c;
3051 }
3052
3053 static void
3054 status_clear(struct input_code *ptr)
3055 {
3056     ptr->stat = 0;
3057     ptr->index = 0;
3058 }
3059
3060 static void
3061 status_reset(struct input_code *ptr)
3062 {
3063     status_clear(ptr);
3064     ptr->score = SCORE_INIT;
3065 }
3066
3067 static void
3068 status_reinit(struct input_code *ptr)
3069 {
3070     status_reset(ptr);
3071     ptr->_file_stat = 0;
3072 }
3073
3074 static void
3075 status_check(struct input_code *ptr, nkf_char c)
3076 {
3077     if (c <= DEL && estab_f){
3078         status_reset(ptr);
3079     }
3080 }
3081
3082 static void
3083 s_status(struct input_code *ptr, nkf_char c)
3084 {
3085     switch(ptr->stat){
3086     case -1:
3087         status_check(ptr, c);
3088         break;
3089     case 0:
3090         if (c <= DEL){
3091             break;
3092         }else if (nkf_char_unicode_p(c)){
3093             break;
3094         }else if (0xa1 <= c && c <= 0xdf){
3095             status_push_ch(ptr, SS2);
3096             status_push_ch(ptr, c);
3097             code_score(ptr);
3098             status_clear(ptr);
3099         }else if ((0x81 <= c && c < 0xa0) || (0xe0 <= c && c <= 0xea)){
3100             ptr->stat = 1;
3101             status_push_ch(ptr, c);
3102         }else if (0xed <= c && c <= 0xee){
3103             ptr->stat = 3;
3104             status_push_ch(ptr, c);
3105 #ifdef SHIFTJIS_CP932
3106         }else if (is_ibmext_in_sjis(c)){
3107             ptr->stat = 2;
3108             status_push_ch(ptr, c);
3109 #endif /* SHIFTJIS_CP932 */
3110 #ifdef X0212_ENABLE
3111         }else if (0xf0 <= c && c <= 0xfc){
3112             ptr->stat = 1;
3113             status_push_ch(ptr, c);
3114 #endif /* X0212_ENABLE */
3115         }else{
3116             status_disable(ptr);
3117         }
3118         break;
3119     case 1:
3120         if ((0x40 <= c && c <= 0x7e) || (0x80 <= c && c <= 0xfc)){
3121             status_push_ch(ptr, c);
3122             s2e_conv(ptr->buf[0], ptr->buf[1], &ptr->buf[0], &ptr->buf[1]);
3123             code_score(ptr);
3124             status_clear(ptr);
3125         }else{
3126             status_disable(ptr);
3127         }
3128         break;
3129     case 2:
3130 #ifdef SHIFTJIS_CP932
3131         if ((0x40 <= c && c <= 0x7e) || (0x80 <= c && c <= 0xfc)) {
3132             status_push_ch(ptr, c);
3133             if (s2e_conv(ptr->buf[0], ptr->buf[1], &ptr->buf[0], &ptr->buf[1]) == 0) {
3134                 set_code_score(ptr, SCORE_CP932);
3135                 status_clear(ptr);
3136                 break;
3137             }
3138         }
3139 #endif /* SHIFTJIS_CP932 */
3140         status_disable(ptr);
3141         break;
3142     case 3:
3143         if ((0x40 <= c && c <= 0x7e) || (0x80 <= c && c <= 0xfc)){
3144             status_push_ch(ptr, c);
3145             s2e_conv(ptr->buf[0], ptr->buf[1], &ptr->buf[0], &ptr->buf[1]);
3146             set_code_score(ptr, SCORE_CP932);
3147             status_clear(ptr);
3148         }else{
3149             status_disable(ptr);
3150         }
3151         break;
3152     }
3153 }
3154
3155 static void
3156 e_status(struct input_code *ptr, nkf_char c)
3157 {
3158     switch (ptr->stat){
3159     case -1:
3160         status_check(ptr, c);
3161         break;
3162     case 0:
3163         if (c <= DEL){
3164             break;
3165         }else if (nkf_char_unicode_p(c)){
3166             break;
3167         }else if (SS2 == c || (0xa1 <= c && c <= 0xfe)){
3168             ptr->stat = 1;
3169             status_push_ch(ptr, c);
3170 #ifdef X0212_ENABLE
3171         }else if (0x8f == c){
3172             ptr->stat = 2;
3173             status_push_ch(ptr, c);
3174 #endif /* X0212_ENABLE */
3175         }else{
3176             status_disable(ptr);
3177         }
3178         break;
3179     case 1:
3180         if (0xa1 <= c && c <= 0xfe){
3181             status_push_ch(ptr, c);
3182             code_score(ptr);
3183             status_clear(ptr);
3184         }else{
3185             status_disable(ptr);
3186         }
3187         break;
3188 #ifdef X0212_ENABLE
3189     case 2:
3190         if (0xa1 <= c && c <= 0xfe){
3191             ptr->stat = 1;
3192             status_push_ch(ptr, c);
3193         }else{
3194             status_disable(ptr);
3195         }
3196 #endif /* X0212_ENABLE */
3197     }
3198 }
3199
3200 #ifdef UTF8_INPUT_ENABLE
3201 static void
3202 w_status(struct input_code *ptr, nkf_char c)
3203 {
3204     switch (ptr->stat){
3205     case -1:
3206         status_check(ptr, c);
3207         break;
3208     case 0:
3209         if (c <= DEL){
3210             break;
3211         }else if (nkf_char_unicode_p(c)){
3212             break;
3213         }else if (0xc0 <= c && c <= 0xdf){
3214             ptr->stat = 1;
3215             status_push_ch(ptr, c);
3216         }else if (0xe0 <= c && c <= 0xef){
3217             ptr->stat = 2;
3218             status_push_ch(ptr, c);
3219         }else if (0xf0 <= c && c <= 0xf4){
3220             ptr->stat = 3;
3221             status_push_ch(ptr, c);
3222         }else{
3223             status_disable(ptr);
3224         }
3225         break;
3226     case 1:
3227     case 2:
3228         if (0x80 <= c && c <= 0xbf){
3229             status_push_ch(ptr, c);
3230             if (ptr->index > ptr->stat){
3231                 int bom = (ptr->buf[0] == 0xef && ptr->buf[1] == 0xbb
3232                            && ptr->buf[2] == 0xbf);
3233                 w2e_conv(ptr->buf[0], ptr->buf[1], ptr->buf[2],
3234                          &ptr->buf[0], &ptr->buf[1]);
3235                 if (!bom){
3236                     code_score(ptr);
3237                 }
3238                 status_clear(ptr);
3239             }
3240         }else{
3241             status_disable(ptr);
3242         }
3243         break;
3244     case 3:
3245         if (0x80 <= c && c <= 0xbf){
3246             if (ptr->index < ptr->stat){
3247                 status_push_ch(ptr, c);
3248             } else {
3249                 status_clear(ptr);
3250             }
3251         }else{
3252             status_disable(ptr);
3253         }
3254         break;
3255     }
3256 }
3257 #endif
3258
3259 static void
3260 code_status(nkf_char c)
3261 {
3262     int action_flag = 1;
3263     struct input_code *result = 0;
3264     struct input_code *p = input_code_list;
3265     while (p->name){
3266         if (!p->status_func) {
3267             ++p;
3268             continue;
3269         }
3270         if (!p->status_func)
3271             continue;
3272         (p->status_func)(p, c);
3273         if (p->stat > 0){
3274             action_flag = 0;
3275         }else if(p->stat == 0){
3276             if (result){
3277                 action_flag = 0;
3278             }else{
3279                 result = p;
3280             }
3281         }
3282         ++p;
3283     }
3284
3285     if (action_flag){
3286         if (result && !estab_f){
3287             set_iconv(TRUE, result->iconv_func);
3288         }else if (c <= DEL){
3289             struct input_code *ptr = input_code_list;
3290             while (ptr->name){
3291                 status_reset(ptr);
3292                 ++ptr;
3293             }
3294         }
3295     }
3296 }
3297
3298 typedef struct {
3299     nkf_buf_t *std_gc_buf;
3300     nkf_char broken_state;
3301     nkf_buf_t *broken_buf;
3302     nkf_char mimeout_state;
3303     nkf_buf_t *nfc_buf;
3304 } nkf_state_t;
3305
3306 static nkf_state_t *nkf_state = NULL;
3307
3308 #define STD_GC_BUFSIZE (256)
3309
3310 static void
3311 nkf_state_init(void)
3312 {
3313     if (nkf_state) {
3314         nkf_buf_clear(nkf_state->std_gc_buf);
3315         nkf_buf_clear(nkf_state->broken_buf);
3316         nkf_buf_clear(nkf_state->nfc_buf);
3317     }
3318     else {
3319         nkf_state = nkf_xmalloc(sizeof(nkf_state_t));
3320         nkf_state->std_gc_buf = nkf_buf_new(STD_GC_BUFSIZE);
3321         nkf_state->broken_buf = nkf_buf_new(3);
3322         nkf_state->nfc_buf = nkf_buf_new(9);
3323     }
3324     nkf_state->broken_state = 0;
3325     nkf_state->mimeout_state = 0;
3326 }
3327
3328 #ifndef WIN32DLL
3329 static nkf_char
3330 std_getc(FILE *f)
3331 {
3332     if (!nkf_buf_empty_p(nkf_state->std_gc_buf)){
3333         return nkf_buf_pop(nkf_state->std_gc_buf);
3334     }
3335     return getc(f);
3336 }
3337 #endif /*WIN32DLL*/
3338
3339 static nkf_char
3340 std_ungetc(nkf_char c, ARG_UNUSED FILE *f)
3341 {
3342     nkf_buf_push(nkf_state->std_gc_buf, c);
3343     return c;
3344 }
3345
3346 #ifndef WIN32DLL
3347 static void
3348 std_putc(nkf_char c)
3349 {
3350     if(c!=EOF)
3351         putchar(c);
3352 }
3353 #endif /*WIN32DLL*/
3354
3355 static nkf_char   hold_buf[HOLD_SIZE*2];
3356 static int             hold_count = 0;
3357 static nkf_char
3358 push_hold_buf(nkf_char c2)
3359 {
3360     if (hold_count >= HOLD_SIZE*2)
3361         return (EOF);
3362     hold_buf[hold_count++] = c2;
3363     return ((hold_count >= HOLD_SIZE*2) ? EOF : hold_count);
3364 }
3365
3366 static int
3367 h_conv(FILE *f, nkf_char c1, nkf_char c2)
3368 {
3369     int ret;
3370     int hold_index;
3371     int fromhold_count;
3372     nkf_char c3, c4;
3373
3374     /** it must NOT be in the kanji shifte sequence      */
3375     /** it must NOT be written in JIS7                   */
3376     /** and it must be after 2 byte 8bit code            */
3377
3378     hold_count = 0;
3379     push_hold_buf(c1);
3380     push_hold_buf(c2);
3381
3382     while ((c2 = (*i_getc)(f)) != EOF) {
3383         if (c2 == ESC){
3384             (*i_ungetc)(c2,f);
3385             break;
3386         }
3387         code_status(c2);
3388         if (push_hold_buf(c2) == EOF || estab_f) {
3389             break;
3390         }
3391     }
3392
3393     if (!estab_f) {
3394         struct input_code *p = input_code_list;
3395         struct input_code *result = p;
3396         if (c2 == EOF) {
3397             code_status(c2);
3398         }
3399         while (p->name) {
3400             if (p->status_func && p->score < result->score) {
3401                 result = p;
3402             }
3403             p++;
3404         }
3405         set_iconv(TRUE, result->iconv_func);
3406     }
3407
3408
3409     /** now,
3410      ** 1) EOF is detected, or
3411      ** 2) Code is established, or
3412      ** 3) Buffer is FULL (but last word is pushed)
3413      **
3414      ** in 1) and 3) cases, we continue to use
3415      ** Kanji codes by oconv and leave estab_f unchanged.
3416      **/
3417
3418     ret = c2;
3419     hold_index = 0;
3420     while (hold_index < hold_count){
3421         c1 = hold_buf[hold_index++];
3422         if (nkf_char_unicode_p(c1)) {
3423             (*oconv)(0, c1);
3424             continue;
3425         }
3426         else if (c1 <= DEL){
3427             (*iconv)(0, c1, 0);
3428             continue;
3429         }else if (iconv == s_iconv && 0xa1 <= c1 && c1 <= 0xdf){
3430             (*iconv)(JIS_X_0201_1976_K, c1, 0);
3431             continue;
3432         }
3433         fromhold_count = 1;
3434         if (hold_index < hold_count){
3435             c2 = hold_buf[hold_index++];
3436             fromhold_count++;
3437         }else{
3438             c2 = (*i_getc)(f);
3439             if (c2 == EOF){
3440                 c4 = EOF;
3441                 break;
3442             }
3443             code_status(c2);
3444         }
3445         c3 = 0;
3446         switch ((*iconv)(c1, c2, 0)) {  /* can be EUC/SJIS/UTF-8 */
3447         case -2:
3448             /* 4 bytes UTF-8 */
3449             if (hold_index < hold_count){
3450                 c3 = hold_buf[hold_index++];
3451             } else if ((c3 = (*i_getc)(f)) == EOF) {
3452                 ret = EOF;
3453                 break;
3454             }
3455             code_status(c3);
3456             if (hold_index < hold_count){
3457                 c4 = hold_buf[hold_index++];
3458             } else if ((c4 = (*i_getc)(f)) == EOF) {
3459                 c3 = ret = EOF;
3460                 break;
3461             }
3462             code_status(c4);
3463             (*iconv)(c1, c2, (c3<<8)|c4);
3464             break;
3465         case -3:
3466             /* 4 bytes UTF-8 (check combining character) */
3467             if (hold_index < hold_count){
3468                 c3 = hold_buf[hold_index++];
3469                 fromhold_count++;
3470             } else if ((c3 = (*i_getc)(f)) == EOF) {
3471                 w_iconv_nocombine(c1, c2, 0);
3472                 break;
3473             }
3474             if (hold_index < hold_count){
3475                 c4 = hold_buf[hold_index++];
3476                 fromhold_count++;
3477             } else if ((c4 = (*i_getc)(f)) == EOF) {
3478                 w_iconv_nocombine(c1, c2, 0);
3479                 if (fromhold_count <= 2)
3480                     (*i_ungetc)(c3,f);
3481                 else
3482                     hold_index--;
3483                 continue;
3484             }
3485             if (w_iconv_combine(c1, c2, 0, c3, c4, 0)) {
3486                 w_iconv_nocombine(c1, c2, 0);
3487                 if (fromhold_count <= 2) {
3488                     (*i_ungetc)(c4,f);
3489                     (*i_ungetc)(c3,f);
3490                 } else if (fromhold_count == 3) {
3491                     (*i_ungetc)(c4,f);
3492                     hold_index--;
3493                 } else {
3494                     hold_index -= 2;
3495                 }
3496             }
3497             break;
3498         case -1:
3499             /* 3 bytes EUC or UTF-8 */
3500             if (hold_index < hold_count){
3501                 c3 = hold_buf[hold_index++];
3502                 fromhold_count++;
3503             } else if ((c3 = (*i_getc)(f)) == EOF) {
3504                 ret = EOF;
3505                 break;
3506             } else {
3507                 code_status(c3);
3508             }
3509             if ((*iconv)(c1, c2, c3) == -3) {
3510                 /* 6 bytes UTF-8 (check combining character) */
3511                 nkf_char c5, c6;
3512                 if (hold_index < hold_count){
3513                     c4 = hold_buf[hold_index++];
3514                     fromhold_count++;
3515                 } else if ((c4 = (*i_getc)(f)) == EOF) {
3516                     w_iconv_nocombine(c1, c2, c3);
3517                     continue;
3518                 }
3519                 if (hold_index < hold_count){
3520                     c5 = hold_buf[hold_index++];
3521                     fromhold_count++;
3522                 } else if ((c5 = (*i_getc)(f)) == EOF) {
3523                     w_iconv_nocombine(c1, c2, c3);
3524                     if (fromhold_count == 4)
3525                         hold_index--;
3526                     else
3527                         (*i_ungetc)(c4,f);
3528                     continue;
3529                 }
3530                 if (hold_index < hold_count){
3531                     c6 = hold_buf[hold_index++];
3532                     fromhold_count++;
3533                 } else if ((c6 = (*i_getc)(f)) == EOF) {
3534                     w_iconv_nocombine(c1, c2, c3);
3535                     if (fromhold_count == 5) {
3536                         hold_index -= 2;
3537                     } else if (fromhold_count == 4) {
3538                         hold_index--;
3539                         (*i_ungetc)(c5,f);
3540                     } else {
3541                         (*i_ungetc)(c5,f);
3542                         (*i_ungetc)(c4,f);
3543                     }
3544                     continue;
3545                 }
3546                 if (w_iconv_combine(c1, c2, c3, c4, c5, c6)) {
3547                     w_iconv_nocombine(c1, c2, c3);
3548                     if (fromhold_count == 6) {
3549                         hold_index -= 3;
3550                     } else if (fromhold_count == 5) {
3551                         hold_index -= 2;
3552                         (*i_ungetc)(c6,f);
3553                     } else if (fromhold_count == 4) {
3554                         hold_index--;
3555                         (*i_ungetc)(c6,f);
3556                         (*i_ungetc)(c5,f);
3557                     } else {
3558                         (*i_ungetc)(c6,f);
3559                         (*i_ungetc)(c5,f);
3560                         (*i_ungetc)(c4,f);
3561                     }
3562                 }
3563             }
3564             break;
3565         }
3566         if (c3 == EOF) break;
3567     }
3568     return ret;
3569 }
3570
3571 /*
3572  * Check and Ignore BOM
3573  */
3574 static void
3575 check_bom(FILE *f)
3576 {
3577     int c2;
3578     switch(c2 = (*i_getc)(f)){
3579     case 0x00:
3580         if((c2 = (*i_getc)(f)) == 0x00){
3581             if((c2 = (*i_getc)(f)) == 0xFE){
3582                 if((c2 = (*i_getc)(f)) == 0xFF){
3583                     if(!input_encoding){
3584                         set_iconv(TRUE, w_iconv32);
3585                     }
3586                     if (iconv == w_iconv32) {
3587                         input_bom_f = TRUE;
3588                         input_endian = ENDIAN_BIG;
3589                         return;
3590                     }
3591                     (*i_ungetc)(0xFF,f);
3592                 }else (*i_ungetc)(c2,f);
3593                 (*i_ungetc)(0xFE,f);
3594             }else if(c2 == 0xFF){
3595                 if((c2 = (*i_getc)(f)) == 0xFE){
3596                     if(!input_encoding){
3597                         set_iconv(TRUE, w_iconv32);
3598                     }
3599                     if (iconv == w_iconv32) {
3600                         input_endian = ENDIAN_2143;
3601                         return;
3602                     }
3603                     (*i_ungetc)(0xFF,f);
3604                 }else (*i_ungetc)(c2,f);
3605                 (*i_ungetc)(0xFF,f);
3606             }else (*i_ungetc)(c2,f);
3607             (*i_ungetc)(0x00,f);
3608         }else (*i_ungetc)(c2,f);
3609         (*i_ungetc)(0x00,f);
3610         break;
3611     case 0xEF:
3612         if((c2 = (*i_getc)(f)) == 0xBB){
3613             if((c2 = (*i_getc)(f)) == 0xBF){
3614                 if(!input_encoding){
3615                     set_iconv(TRUE, w_iconv);
3616                 }
3617                 if (iconv == w_iconv) {
3618                     input_bom_f = TRUE;
3619                     return;
3620                 }
3621                 (*i_ungetc)(0xBF,f);
3622             }else (*i_ungetc)(c2,f);
3623             (*i_ungetc)(0xBB,f);
3624         }else (*i_ungetc)(c2,f);
3625         (*i_ungetc)(0xEF,f);
3626         break;
3627     case 0xFE:
3628         if((c2 = (*i_getc)(f)) == 0xFF){
3629             if((c2 = (*i_getc)(f)) == 0x00){
3630                 if((c2 = (*i_getc)(f)) == 0x00){
3631                     if(!input_encoding){
3632                         set_iconv(TRUE, w_iconv32);
3633                     }
3634                     if (iconv == w_iconv32) {
3635                         input_endian = ENDIAN_3412;
3636                         return;
3637                     }
3638                     (*i_ungetc)(0x00,f);
3639                 }else (*i_ungetc)(c2,f);
3640                 (*i_ungetc)(0x00,f);
3641             }else (*i_ungetc)(c2,f);
3642             if(!input_encoding){
3643                 set_iconv(TRUE, w_iconv16);
3644             }
3645             if (iconv == w_iconv16) {
3646                 input_endian = ENDIAN_BIG;
3647                 input_bom_f = TRUE;
3648                 return;
3649             }
3650             (*i_ungetc)(0xFF,f);
3651         }else (*i_ungetc)(c2,f);
3652         (*i_ungetc)(0xFE,f);
3653         break;
3654     case 0xFF:
3655         if((c2 = (*i_getc)(f)) == 0xFE){
3656             if((c2 = (*i_getc)(f)) == 0x00){
3657                 if((c2 = (*i_getc)(f)) == 0x00){
3658                     if(!input_encoding){
3659                         set_iconv(TRUE, w_iconv32);
3660                     }
3661                     if (iconv == w_iconv32) {
3662                         input_endian = ENDIAN_LITTLE;
3663                         input_bom_f = TRUE;
3664                         return;
3665                     }
3666                     (*i_ungetc)(0x00,f);
3667                 }else (*i_ungetc)(c2,f);
3668                 (*i_ungetc)(0x00,f);
3669             }else (*i_ungetc)(c2,f);
3670             if(!input_encoding){
3671                 set_iconv(TRUE, w_iconv16);
3672             }
3673             if (iconv == w_iconv16) {
3674                 input_endian = ENDIAN_LITTLE;
3675                 input_bom_f = TRUE;
3676                 return;
3677             }
3678             (*i_ungetc)(0xFE,f);
3679         }else (*i_ungetc)(c2,f);
3680         (*i_ungetc)(0xFF,f);
3681         break;
3682     default:
3683         (*i_ungetc)(c2,f);
3684         break;
3685     }
3686 }
3687
3688 static nkf_char
3689 broken_getc(FILE *f)
3690 {
3691     nkf_char c, c1;
3692
3693     if (!nkf_buf_empty_p(nkf_state->broken_buf)) {
3694         return nkf_buf_pop(nkf_state->broken_buf);
3695     }
3696     c = (*i_bgetc)(f);
3697     if (c=='$' && nkf_state->broken_state != ESC
3698         && (input_mode == ASCII || input_mode == JIS_X_0201_1976_K)) {
3699         c1= (*i_bgetc)(f);
3700         nkf_state->broken_state = 0;
3701         if (c1=='@'|| c1=='B') {
3702             nkf_buf_push(nkf_state->broken_buf, c1);
3703             nkf_buf_push(nkf_state->broken_buf, c);
3704             return ESC;
3705         } else {
3706             (*i_bungetc)(c1,f);
3707             return c;
3708         }
3709     } else if (c=='(' && nkf_state->broken_state != ESC
3710                && (input_mode == JIS_X_0208 || input_mode == JIS_X_0201_1976_K)) {
3711         c1= (*i_bgetc)(f);
3712         nkf_state->broken_state = 0;
3713         if (c1=='J'|| c1=='B') {
3714             nkf_buf_push(nkf_state->broken_buf, c1);
3715             nkf_buf_push(nkf_state->broken_buf, c);
3716             return ESC;
3717         } else {
3718             (*i_bungetc)(c1,f);
3719             return c;
3720         }
3721     } else {
3722         nkf_state->broken_state = c;
3723         return c;
3724     }
3725 }
3726
3727 static nkf_char
3728 broken_ungetc(nkf_char c, ARG_UNUSED FILE *f)
3729 {
3730     if (nkf_buf_length(nkf_state->broken_buf) < 2)
3731         nkf_buf_push(nkf_state->broken_buf, c);
3732     return c;
3733 }
3734
3735 static void
3736 eol_conv(nkf_char c2, nkf_char c1)
3737 {
3738     if (guess_f && input_eol != EOF) {
3739         if (c2 == 0 && c1 == LF) {
3740             if (!input_eol) input_eol = prev_cr ? CRLF : LF;
3741             else if (input_eol != (prev_cr ? CRLF : LF)) input_eol = EOF;
3742         } else if (c2 == 0 && c1 == CR && input_eol == LF) input_eol = EOF;
3743         else if (!prev_cr);
3744         else if (!input_eol) input_eol = CR;
3745         else if (input_eol != CR) input_eol = EOF;
3746     }
3747     if (prev_cr || (c2 == 0 && c1 == LF)) {
3748         prev_cr = 0;
3749         if (eolmode_f != LF) (*o_eol_conv)(0, CR);
3750         if (eolmode_f != CR) (*o_eol_conv)(0, LF);
3751     }
3752     if (c2 == 0 && c1 == CR) prev_cr = CR;
3753     else if (c2 != 0 || c1 != LF) (*o_eol_conv)(c2, c1);
3754 }
3755
3756 static void
3757 put_newline(void (*func)(nkf_char))
3758 {
3759     switch (eolmode_f ? eolmode_f : DEFAULT_NEWLINE) {
3760       case CRLF:
3761         (*func)(0x0D);
3762         (*func)(0x0A);
3763         break;
3764       case CR:
3765         (*func)(0x0D);
3766         break;
3767       case LF:
3768         (*func)(0x0A);
3769         break;
3770     }
3771 }
3772
3773 static void
3774 oconv_newline(void (*func)(nkf_char, nkf_char))
3775 {
3776     switch (eolmode_f ? eolmode_f : DEFAULT_NEWLINE) {
3777       case CRLF:
3778         (*func)(0, 0x0D);
3779         (*func)(0, 0x0A);
3780         break;
3781       case CR:
3782         (*func)(0, 0x0D);
3783         break;
3784       case LF:
3785         (*func)(0, 0x0A);
3786         break;
3787     }
3788 }
3789
3790 /*
3791    Return value of fold_conv()
3792
3793    LF  add newline  and output char
3794    CR  add newline  and output nothing
3795    SP  space
3796    0   skip
3797    1   (or else) normal output
3798
3799    fold state in prev (previous character)
3800
3801    >0x80 Japanese (X0208/X0201)
3802    <0x80 ASCII
3803    LF    new line
3804    SP    space
3805
3806    This fold algorthm does not preserve heading space in a line.
3807    This is the main difference from fmt.
3808  */
3809
3810 #define char_size(c2,c1) (c2?2:1)
3811
3812 static void
3813 fold_conv(nkf_char c2, nkf_char c1)
3814 {
3815     nkf_char prev0;
3816     nkf_char fold_state;
3817
3818     if (c1== CR && !fold_preserve_f) {
3819         fold_state=0;  /* ignore cr */
3820     }else if (c1== LF&&f_prev==CR && fold_preserve_f) {
3821         f_prev = LF;
3822         fold_state=0;  /* ignore cr */
3823     } else if (c1== BS) {
3824         if (f_line>0) f_line--;
3825         fold_state =  1;
3826     } else if (c2==EOF && f_line != 0) {    /* close open last line */
3827         fold_state = LF;
3828     } else if ((c1==LF && !fold_preserve_f)
3829                || ((c1==CR||(c1==LF&&f_prev!=CR))
3830                    && fold_preserve_f)) {
3831         /* new line */
3832         if (fold_preserve_f) {
3833             f_prev = c1;
3834             f_line = 0;
3835             fold_state =  CR;
3836         } else if ((f_prev == c1 && !fold_preserve_f)
3837                    || (f_prev == LF && fold_preserve_f)
3838                   ) {        /* duplicate newline */
3839             if (f_line) {
3840                 f_line = 0;
3841                 fold_state =  LF;    /* output two newline */
3842             } else {
3843                 f_line = 0;
3844                 fold_state =  1;
3845             }
3846         } else  {
3847             if (f_prev&0x80) {     /* Japanese? */
3848                 f_prev = c1;
3849                 fold_state =  0;       /* ignore given single newline */
3850             } else if (f_prev==SP) {
3851                 fold_state =  0;
3852             } else {
3853                 f_prev = c1;
3854                 if (++f_line<=fold_len)
3855                     fold_state =  SP;
3856                 else {
3857                     f_line = 0;
3858                     fold_state =  CR;        /* fold and output nothing */
3859                 }
3860             }
3861         }
3862     } else if (c1=='\f') {
3863         f_prev = LF;
3864         f_line = 0;
3865         fold_state =  LF;            /* output newline and clear */
3866     } else if ((c2==0 && nkf_isblank(c1)) || (c2 == '!' && c1 == '!')) {
3867         /* X0208 kankaku or ascii space */
3868         if (f_prev == SP) {
3869             fold_state = 0;         /* remove duplicate spaces */
3870         } else {
3871             f_prev = SP;
3872             if (++f_line<=fold_len)
3873                 fold_state = SP;         /* output ASCII space only */
3874             else {
3875                 f_prev = SP; f_line = 0;
3876                 fold_state = CR;        /* fold and output nothing */
3877             }
3878         }
3879     } else {
3880         prev0 = f_prev; /* we still need this one... , but almost done */
3881         f_prev = c1;
3882         if (c2 || c2 == JIS_X_0201_1976_K)
3883             f_prev |= 0x80;  /* this is Japanese */
3884         f_line += c2 == JIS_X_0201_1976_K ? 1: char_size(c2,c1);
3885         if (f_line<=fold_len) {   /* normal case */
3886             fold_state = 1;
3887         } else {
3888             if (f_line>fold_len+fold_margin) { /* too many kinsoku suspension */
3889                 f_line = char_size(c2,c1);
3890                 fold_state =  LF;       /* We can't wait, do fold now */
3891             } else if (c2 == JIS_X_0201_1976_K) {
3892                 /* simple kinsoku rules  return 1 means no folding  */
3893                 if (c1==(0xde&0x7f)) fold_state = 1; /* \e$B!+\e(B*/
3894                 else if (c1==(0xdf&0x7f)) fold_state = 1; /* \e$B!,\e(B*/
3895                 else if (c1==(0xa4&0x7f)) fold_state = 1; /* \e$B!#\e(B*/
3896                 else if (c1==(0xa3&0x7f)) fold_state = 1; /* \e$B!$\e(B*/
3897                 else if (c1==(0xa1&0x7f)) fold_state = 1; /* \e$B!W\e(B*/
3898                 else if (c1==(0xb0&0x7f)) fold_state = 1; /* - */
3899                 else if (SP<=c1 && c1<=(0xdf&0x7f)) {      /* X0201 */
3900                     f_line = 1;
3901                     fold_state = LF;/* add one new f_line before this character */
3902                 } else {
3903                     f_line = 1;
3904                     fold_state = LF;/* add one new f_line before this character */
3905                 }
3906             } else if (c2==0) {
3907                 /* kinsoku point in ASCII */
3908                 if (  c1==')'||    /* { [ ( */
3909                     c1==']'||
3910                     c1=='}'||
3911                     c1=='.'||
3912                     c1==','||
3913                     c1=='!'||
3914                     c1=='?'||
3915                     c1=='/'||
3916                     c1==':'||
3917                     c1==';') {
3918                     fold_state = 1;
3919                     /* just after special */
3920                 } else if (!is_alnum(prev0)) {
3921                     f_line = char_size(c2,c1);
3922                     fold_state = LF;
3923                 } else if ((prev0==SP) ||   /* ignored new f_line */
3924                            (prev0==LF)||        /* ignored new f_line */
3925                            (prev0&0x80)) {        /* X0208 - ASCII */
3926                     f_line = char_size(c2,c1);
3927                     fold_state = LF;/* add one new f_line before this character */
3928                 } else {
3929                     fold_state = 1;  /* default no fold in ASCII */
3930                 }
3931             } else {
3932                 if (c2=='!') {
3933                     if (c1=='"')  fold_state = 1; /* \e$B!"\e(B */
3934                     else if (c1=='#')  fold_state = 1; /* \e$B!#\e(B */
3935                     else if (c1=='W')  fold_state = 1; /* \e$B!W\e(B */
3936                     else if (c1=='K')  fold_state = 1; /* \e$B!K\e(B */
3937                     else if (c1=='$')  fold_state = 1; /* \e$B!$\e(B */
3938                     else if (c1=='%')  fold_state = 1; /* \e$B!%\e(B */
3939                     else if (c1=='\'') fold_state = 1; /* \e$B!\\e(B */
3940                     else if (c1=='(')  fold_state = 1; /* \e$B!(\e(B */
3941                     else if (c1==')')  fold_state = 1; /* \e$B!)\e(B */
3942                     else if (c1=='*')  fold_state = 1; /* \e$B!*\e(B */
3943                     else if (c1=='+')  fold_state = 1; /* \e$B!+\e(B */
3944                     else if (c1==',')  fold_state = 1; /* \e$B!,\e(B */
3945                     /* default no fold in kinsoku */
3946                     else {
3947                         fold_state = LF;
3948                         f_line = char_size(c2,c1);
3949                         /* add one new f_line before this character */
3950                     }
3951                 } else {
3952                     f_line = char_size(c2,c1);
3953                     fold_state = LF;
3954                     /* add one new f_line before this character */
3955                 }
3956             }
3957         }
3958     }
3959     /* terminator process */
3960     switch(fold_state) {
3961     case LF:
3962         oconv_newline(o_fconv);
3963         (*o_fconv)(c2,c1);
3964         break;
3965     case 0:
3966         return;
3967     case CR:
3968         oconv_newline(o_fconv);
3969         break;
3970     case TAB:
3971     case SP:
3972         (*o_fconv)(0,SP);
3973         break;
3974     default:
3975         (*o_fconv)(c2,c1);
3976     }
3977 }
3978
3979 static nkf_char z_prev2=0,z_prev1=0;
3980
3981 static void
3982 z_conv(nkf_char c2, nkf_char c1)
3983 {
3984
3985     /* if (c2) c1 &= 0x7f; assertion */
3986
3987     if (c2 == JIS_X_0201_1976_K && (c1 == 0x20 || c1 == 0x7D || c1 == 0x7E)) {
3988         (*o_zconv)(c2,c1);
3989         return;
3990     }
3991
3992     if (x0201_f) {
3993         if (z_prev2 == JIS_X_0201_1976_K) {
3994             if (c2 == JIS_X_0201_1976_K) {
3995                 if (c1 == (0xde&0x7f)) { /* \e$BByE@\e(B */
3996                     z_prev2 = 0;
3997                     (*o_zconv)(dv[(z_prev1-SP)*2], dv[(z_prev1-SP)*2+1]);
3998                     return;
3999                 } else if (c1 == (0xdf&0x7f) && ev[(z_prev1-SP)*2]) {  /* \e$BH>ByE@\e(B */
4000                     z_prev2 = 0;
4001                     (*o_zconv)(ev[(z_prev1-SP)*2], ev[(z_prev1-SP)*2+1]);
4002                     return;
4003                 } else if (x0213_f && c1 == (0xdf&0x7f) && ev_x0213[(z_prev1-SP)*2]) {  /* \e$BH>ByE@\e(B */
4004                     z_prev2 = 0;
4005                     (*o_zconv)(ev_x0213[(z_prev1-SP)*2], ev_x0213[(z_prev1-SP)*2+1]);
4006                     return;
4007                 }
4008             }
4009             z_prev2 = 0;
4010             (*o_zconv)(cv[(z_prev1-SP)*2], cv[(z_prev1-SP)*2+1]);
4011         }
4012         if (c2 == JIS_X_0201_1976_K) {
4013             if (dv[(c1-SP)*2] || ev[(c1-SP)*2] || (x0213_f && ev_x0213[(c1-SP)*2])) {
4014                 /* wait for \e$BByE@\e(B or \e$BH>ByE@\e(B */
4015                 z_prev1 = c1;
4016                 z_prev2 = c2;
4017                 return;
4018             } else {
4019                 (*o_zconv)(cv[(c1-SP)*2], cv[(c1-SP)*2+1]);
4020                 return;
4021             }
4022         }
4023     }
4024
4025     if (c2 == EOF) {
4026         (*o_zconv)(c2, c1);
4027         return;
4028     }
4029
4030     if (alpha_f&1 && c2 == 0x23) {
4031         /* JISX0208 Alphabet */
4032         c2 = 0;
4033     } else if (c2 == 0x21) {
4034         /* JISX0208 Kigou */
4035         if (0x21==c1) {
4036             if (alpha_f&2) {
4037                 c2 = 0;
4038                 c1 = SP;
4039             } else if (alpha_f&4) {
4040                 (*o_zconv)(0, SP);
4041                 (*o_zconv)(0, SP);
4042                 return;
4043             }
4044         } else if (alpha_f&1 && 0x20<c1 && c1<0x7f && fv[c1-0x20]) {
4045             c2 =  0;
4046             c1 = fv[c1-0x20];
4047         }
4048     }
4049
4050     if (alpha_f&8 && c2 == 0) {
4051         /* HTML Entity */
4052         const char *entity = 0;
4053         switch (c1){
4054         case '>': entity = "&gt;"; break;
4055         case '<': entity = "&lt;"; break;
4056         case '\"': entity = "&quot;"; break;
4057         case '&': entity = "&amp;"; break;
4058         }
4059         if (entity){
4060             while (*entity) (*o_zconv)(0, *entity++);
4061             return;
4062         }
4063     }
4064
4065     if (alpha_f & 16) {
4066         /* JIS X 0208 Katakana to JIS X 0201 Katakana */
4067         if (c2 == 0x21) {
4068             nkf_char c = 0;
4069             switch (c1) {
4070             case 0x23:
4071                 /* U+3002 (0x8142) Ideographic Full Stop -> U+FF61 (0xA1) Halfwidth Ideographic Full Stop */
4072                 c = 0xA1;
4073                 break;
4074             case 0x56:
4075                 /* U+300C (0x8175) Left Corner Bracket -> U+FF62 (0xA2) Halfwidth Left Corner Bracket */
4076                 c = 0xA2;
4077                 break;
4078             case 0x57:
4079                 /* U+300D (0x8176) Right Corner Bracket -> U+FF63 (0xA3) Halfwidth Right Corner Bracket */
4080                 c = 0xA3;
4081                 break;
4082             case 0x22:
4083                 /* U+3001 (0x8141) Ideographic Comma -> U+FF64 (0xA4) Halfwidth Ideographic Comma */
4084                 c = 0xA4;
4085                 break;
4086             case 0x26:
4087                 /* U+30FB (0x8145) Katakana Middle Dot -> U+FF65 (0xA5) Halfwidth Katakana Middle Dot */
4088                 c = 0xA5;
4089                 break;
4090             case 0x3C:
4091                 /* U+30FC (0x815B) Katakana-Hiragana Prolonged Sound Mark -> U+FF70 (0xB0) Halfwidth Katakana-Hiragana Prolonged Sound Mark */
4092                 c = 0xB0;
4093                 break;
4094             case 0x2B:
4095                 /* U+309B (0x814A) Katakana-Hiragana Voiced Sound Mark -> U+FF9E (0xDE) Halfwidth Katakana Voiced Sound Mark */
4096                 c = 0xDE;
4097                 break;
4098             case 0x2C:
4099                 /* U+309C (0x814B) Katakana-Hiragana Semi-Voiced Sound Mark -> U+FF9F (0xDF) Halfwidth Katakana Semi-Voiced Sound Mark */
4100                 c = 0xDF;
4101                 break;
4102             }
4103             if (c) {
4104                 (*o_zconv)(JIS_X_0201_1976_K, c);
4105                 return;
4106             }
4107         } else if (c2 == 0x25) {
4108             /* JISX0208 Katakana */
4109             static const int fullwidth_to_halfwidth[] =
4110             {
4111                 0x0000, 0x2700, 0x3100, 0x2800, 0x3200, 0x2900, 0x3300, 0x2A00,
4112                 0x3400, 0x2B00, 0x3500, 0x3600, 0x365E, 0x3700, 0x375E, 0x3800,
4113                 0x385E, 0x3900, 0x395E, 0x3A00, 0x3A5E, 0x3B00, 0x3B5E, 0x3C00,
4114                 0x3C5E, 0x3D00, 0x3D5E, 0x3E00, 0x3E5E, 0x3F00, 0x3F5E, 0x4000,
4115                 0x405E, 0x4100, 0x415E, 0x2F00, 0x4200, 0x425E, 0x4300, 0x435E,
4116                 0x4400, 0x445E, 0x4500, 0x4600, 0x4700, 0x4800, 0x4900, 0x4A00,
4117                 0x4A5E, 0x4A5F, 0x4B00, 0x4B5E, 0x4B5F, 0x4C00, 0x4C5E, 0x4C5F,
4118                 0x4D00, 0x4D5E, 0x4D5F, 0x4E00, 0x4E5E, 0x4E5F, 0x4F00, 0x5000,
4119                 0x5100, 0x5200, 0x5300, 0x2C00, 0x5400, 0x2D00, 0x5500, 0x2E00,
4120                 0x5600, 0x5700, 0x5800, 0x5900, 0x5A00, 0x5B00, 0x0000, 0x5C00,
4121                 0x0000, 0x0000, 0x2600, 0x5D00, 0x335E, 0x0000, 0x0000, 0x365F,
4122                 0x375F, 0x385F, 0x395F, 0x3A5F, 0x3E5F, 0x425F, 0x445F, 0x0000
4123             };
4124             if (fullwidth_to_halfwidth[c1-0x20]){
4125                 c2 = fullwidth_to_halfwidth[c1-0x20];
4126                 (*o_zconv)(JIS_X_0201_1976_K, c2>>8);
4127                 if (c2 & 0xFF) {
4128                     (*o_zconv)(JIS_X_0201_1976_K, c2&0xFF);
4129                 }
4130                 return;
4131             }
4132         } else if (c2 == 0 && nkf_char_unicode_p(c1) &&
4133             ((c1&VALUE_MASK) == 0x3099 || (c1&VALUE_MASK) == 0x309A)) { /* \e$B9g@.MQByE@!&H>ByE@\e(B */
4134             (*o_zconv)(JIS_X_0201_1976_K, 0x5E + (c1&VALUE_MASK) - 0x3099);
4135             return;
4136         }
4137     }
4138     (*o_zconv)(c2,c1);
4139 }
4140
4141
4142 #define rot13(c)  ( \
4143                    ( c < 'A') ? c: \
4144                    (c <= 'M')  ? (c + 13): \
4145                    (c <= 'Z')  ? (c - 13): \
4146                    (c < 'a')   ? (c): \
4147                    (c <= 'm')  ? (c + 13): \
4148                    (c <= 'z')  ? (c - 13): \
4149                    (c) \
4150                   )
4151
4152 #define  rot47(c) ( \
4153                    ( c < '!') ? c: \
4154                    ( c <= 'O') ? (c + 47) : \
4155                    ( c <= '~') ?  (c - 47) : \
4156                    c \
4157                   )
4158
4159 static void
4160 rot_conv(nkf_char c2, nkf_char c1)
4161 {
4162     if (c2 == 0 || c2 == JIS_X_0201_1976_K || c2 == ISO_8859_1) {
4163         c1 = rot13(c1);
4164     } else if (c2) {
4165         c1 = rot47(c1);
4166         c2 = rot47(c2);
4167     }
4168     (*o_rot_conv)(c2,c1);
4169 }
4170
4171 static void
4172 hira_conv(nkf_char c2, nkf_char c1)
4173 {
4174     if (hira_f & 1) {
4175         if (c2 == 0x25) {
4176             if (0x20 < c1 && c1 < 0x74) {
4177                 c2 = 0x24;
4178                 (*o_hira_conv)(c2,c1);
4179                 return;
4180             } else if (c1 == 0x74 && nkf_enc_unicode_p(output_encoding)) {
4181                 c2 = 0;
4182                 c1 = nkf_char_unicode_new(0x3094);
4183                 (*o_hira_conv)(c2,c1);
4184                 return;
4185             }
4186         } else if (c2 == 0x21 && (c1 == 0x33 || c1 == 0x34)) {
4187             c1 += 2;
4188             (*o_hira_conv)(c2,c1);
4189             return;
4190         }
4191     }
4192     if (hira_f & 2) {
4193         if (c2 == 0 && c1 == nkf_char_unicode_new(0x3094)) {
4194             c2 = 0x25;
4195             c1 = 0x74;
4196         } else if (c2 == 0x24 && 0x20 < c1 && c1 < 0x74) {
4197             c2 = 0x25;
4198         } else if (c2 == 0x21 && (c1 == 0x35 || c1 == 0x36)) {
4199             c1 -= 2;
4200         }
4201     }
4202     (*o_hira_conv)(c2,c1);
4203 }
4204
4205
4206 static void
4207 iso2022jp_check_conv(nkf_char c2, nkf_char c1)
4208 {
4209 #define RANGE_NUM_MAX 18
4210     static const nkf_char range[RANGE_NUM_MAX][2] = {
4211         {0x222f, 0x2239,},
4212         {0x2242, 0x2249,},
4213         {0x2251, 0x225b,},
4214         {0x226b, 0x2271,},
4215         {0x227a, 0x227d,},
4216         {0x2321, 0x232f,},
4217         {0x233a, 0x2340,},
4218         {0x235b, 0x2360,},
4219         {0x237b, 0x237e,},
4220         {0x2474, 0x247e,},
4221         {0x2577, 0x257e,},
4222         {0x2639, 0x2640,},
4223         {0x2659, 0x267e,},
4224         {0x2742, 0x2750,},
4225         {0x2772, 0x277e,},
4226         {0x2841, 0x287e,},
4227         {0x4f54, 0x4f7e,},
4228         {0x7425, 0x747e},
4229     };
4230     nkf_char i;
4231     nkf_char start, end, c;
4232
4233     if(c2 >= 0x00 && c2 <= 0x20 && c1 >= 0x7f && c1 <= 0xff) {
4234         c2 = GETA1;
4235         c1 = GETA2;
4236     }
4237     if((c2 >= 0x29 && c2 <= 0x2f) || (c2 >= 0x75 && c2 <= 0x7e)) {
4238         c2 = GETA1;
4239         c1 = GETA2;
4240     }
4241
4242     for (i = 0; i < RANGE_NUM_MAX; i++) {
4243         start = range[i][0];
4244         end   = range[i][1];
4245         c     = (c2 << 8) + c1;
4246         if (c >= start && c <= end) {
4247             c2 = GETA1;
4248             c1 = GETA2;
4249         }
4250     }
4251     (*o_iso2022jp_check_conv)(c2,c1);
4252 }
4253
4254
4255 /* This converts  =?ISO-2022-JP?B?HOGE HOGE?= */
4256
4257 static const unsigned char *mime_pattern[] = {
4258     (const unsigned char *)"\075?EUC-JP?B?",
4259     (const unsigned char *)"\075?SHIFT_JIS?B?",
4260     (const unsigned char *)"\075?ISO-8859-1?Q?",
4261     (const unsigned char *)"\075?ISO-8859-1?B?",
4262     (const unsigned char *)"\075?ISO-2022-JP?B?",
4263     (const unsigned char *)"\075?ISO-2022-JP?B?",
4264     (const unsigned char *)"\075?ISO-2022-JP?Q?",
4265 #if defined(UTF8_INPUT_ENABLE)
4266     (const unsigned char *)"\075?UTF-8?B?",
4267     (const unsigned char *)"\075?UTF-8?Q?",
4268 #endif
4269     (const unsigned char *)"\075?US-ASCII?Q?",
4270     NULL
4271 };
4272
4273
4274 /* \e$B3:Ev$9$k%3!<%I$NM%@hEY$r>e$2$k$?$a$NL\0u\e(B */
4275 nkf_char (*mime_priority_func[])(nkf_char c2, nkf_char c1, nkf_char c0) = {
4276     e_iconv, s_iconv, 0, 0, 0, 0, 0,
4277 #if defined(UTF8_INPUT_ENABLE)
4278     w_iconv, w_iconv,
4279 #endif
4280     0,
4281 };
4282
4283 static const nkf_char mime_encode[] = {
4284     EUC_JP, SHIFT_JIS, ISO_8859_1, ISO_8859_1, JIS_X_0208, JIS_X_0201_1976_K, JIS_X_0201_1976_K,
4285 #if defined(UTF8_INPUT_ENABLE)
4286     UTF_8, UTF_8,
4287 #endif
4288     ASCII,
4289     0
4290 };
4291
4292 static const nkf_char mime_encode_method[] = {
4293     'B', 'B','Q', 'B', 'B', 'B', 'Q',
4294 #if defined(UTF8_INPUT_ENABLE)
4295     'B', 'Q',
4296 #endif
4297     'Q',
4298     0
4299 };
4300
4301
4302 /* MIME preprocessor fifo */
4303
4304 #define MIME_BUF_SIZE   (1024)    /* 2^n ring buffer */
4305 #define MIME_BUF_MASK   (MIME_BUF_SIZE-1)
4306 #define mime_input_buf(n)        mime_input_state.buf[(n)&MIME_BUF_MASK]
4307 static struct {
4308     unsigned char buf[MIME_BUF_SIZE];
4309     unsigned int  top;
4310     unsigned int  last;  /* decoded */
4311     unsigned int  input; /* undecoded */
4312 } mime_input_state;
4313 static nkf_char (*mime_iconv_back)(nkf_char c2,nkf_char c1,nkf_char c0) = NULL;
4314
4315 #define MAXRECOVER 20
4316
4317 static void
4318 mime_input_buf_unshift(nkf_char c)
4319 {
4320     mime_input_buf(--mime_input_state.top) = (unsigned char)c;
4321 }
4322
4323 static nkf_char
4324 mime_ungetc(nkf_char c, ARG_UNUSED FILE *f)
4325 {
4326     mime_input_buf_unshift(c);
4327     return c;
4328 }
4329
4330 static nkf_char
4331 mime_ungetc_buf(nkf_char c, FILE *f)
4332 {
4333     if (mimebuf_f)
4334         (*i_mungetc_buf)(c,f);
4335     else
4336         mime_input_buf(--mime_input_state.input) = (unsigned char)c;
4337     return c;
4338 }
4339
4340 static nkf_char
4341 mime_getc_buf(FILE *f)
4342 {
4343     /* we don't keep eof of mime_input_buf, becase it contains ?= as
4344        a terminator. It was checked in mime_integrity. */
4345     return ((mimebuf_f)?
4346             (*i_mgetc_buf)(f):mime_input_buf(mime_input_state.input++));
4347 }
4348
4349 static void
4350 switch_mime_getc(void)
4351 {
4352     if (i_getc!=mime_getc) {
4353         i_mgetc = i_getc; i_getc = mime_getc;
4354         i_mungetc = i_ungetc; i_ungetc = mime_ungetc;
4355         if(mime_f==STRICT_MIME) {
4356             i_mgetc_buf = i_mgetc; i_mgetc = mime_getc_buf;
4357             i_mungetc_buf = i_mungetc; i_mungetc = mime_ungetc_buf;
4358         }
4359     }
4360 }
4361
4362 static void
4363 unswitch_mime_getc(void)
4364 {
4365     if(mime_f==STRICT_MIME) {
4366         i_mgetc = i_mgetc_buf;
4367         i_mungetc = i_mungetc_buf;
4368     }
4369     i_getc = i_mgetc;
4370     i_ungetc = i_mungetc;
4371     if(mime_iconv_back)set_iconv(FALSE, mime_iconv_back);
4372     mime_iconv_back = NULL;
4373 }
4374
4375 static nkf_char
4376 mime_integrity(FILE *f, const unsigned char *p)
4377 {
4378     nkf_char c,d;
4379     unsigned int q;
4380     /* In buffered mode, read until =? or NL or buffer full
4381      */
4382     mime_input_state.input = mime_input_state.top;
4383     mime_input_state.last = mime_input_state.top;
4384
4385     while(*p) mime_input_buf(mime_input_state.input++) = *p++;
4386     d = 0;
4387     q = mime_input_state.input;
4388     while((c=(*i_getc)(f))!=EOF) {
4389         if (((mime_input_state.input-mime_input_state.top)&MIME_BUF_MASK)==0) {
4390             break;   /* buffer full */
4391         }
4392         if (c=='=' && d=='?') {
4393             /* checked. skip header, start decode */
4394             mime_input_buf(mime_input_state.input++) = (unsigned char)c;
4395             /* mime_last_input = mime_input_state.input; */
4396             mime_input_state.input = q;
4397             switch_mime_getc();
4398             return 1;
4399         }
4400         if (!( (c=='+'||c=='/'|| c=='=' || c=='?' || is_alnum(c))))
4401             break;
4402         /* Should we check length mod 4? */
4403         mime_input_buf(mime_input_state.input++) = (unsigned char)c;
4404         d=c;
4405     }
4406     /* In case of Incomplete MIME, no MIME decode  */
4407     mime_input_buf(mime_input_state.input++) = (unsigned char)c;
4408     mime_input_state.last = mime_input_state.input;     /* point undecoded buffer */
4409     mime_decode_mode = 1;              /* no decode on mime_input_buf last in mime_getc */
4410     switch_mime_getc();         /* anyway we need buffered getc */
4411     return 1;
4412 }
4413
4414 static nkf_char
4415 mime_begin_strict(FILE *f)
4416 {
4417     nkf_char c1 = 0;
4418     int i,j,k;
4419     const unsigned char *p,*q;
4420     nkf_char r[MAXRECOVER];    /* recovery buffer, max mime pattern length */
4421
4422     mime_decode_mode = FALSE;
4423     /* =? has been checked */
4424     j = 0;
4425     p = mime_pattern[j];
4426     r[0]='='; r[1]='?';
4427
4428     for(i=2;p[i]>SP;i++) {                   /* start at =? */
4429         if (((r[i] = c1 = (*i_getc)(f))==EOF) || nkf_toupper(c1) != p[i]) {
4430             /* pattern fails, try next one */
4431             q = p;
4432             while (mime_pattern[++j]) {
4433                 p = mime_pattern[j];
4434                 for(k=2;k<i;k++)              /* assume length(p) > i */
4435                     if (p[k]!=q[k]) break;
4436                 if (k==i && nkf_toupper(c1)==p[k]) break;
4437             }
4438             p = mime_pattern[j];
4439             if (p) continue;  /* found next one, continue */
4440             /* all fails, output from recovery buffer */
4441             (*i_ungetc)(c1,f);
4442             for(j=0;j<i;j++) {
4443                 (*oconv)(0,r[j]);
4444             }
4445             return c1;
4446         }
4447     }
4448     mime_decode_mode = p[i-2];
4449
4450     mime_iconv_back = iconv;
4451     set_iconv(FALSE, mime_priority_func[j]);
4452     clr_code_score(find_inputcode_byfunc(mime_priority_func[j]), SCORE_iMIME);
4453
4454     if (mime_decode_mode=='B') {
4455         mimebuf_f = unbuf_f;
4456         if (!unbuf_f) {
4457             /* do MIME integrity check */
4458             return mime_integrity(f,mime_pattern[j]);
4459         }
4460     }
4461     switch_mime_getc();
4462     mimebuf_f = TRUE;
4463     return c1;
4464 }
4465
4466 static nkf_char
4467 mime_begin(FILE *f)
4468 {
4469     nkf_char c1 = 0;
4470     int i,k;
4471
4472     /* In NONSTRICT mode, only =? is checked. In case of failure, we  */
4473     /* re-read and convert again from mime_buffer.  */
4474
4475     /* =? has been checked */
4476     k = mime_input_state.last;
4477     mime_input_buf(mime_input_state.last++)='='; mime_input_buf(mime_input_state.last++)='?';
4478     for(i=2;i<MAXRECOVER;i++) {                   /* start at =? */
4479         /* We accept any character type even if it is breaked by new lines */
4480         c1 = (*i_getc)(f); mime_input_buf(mime_input_state.last++) = (unsigned char)c1;
4481         if (c1==LF||c1==SP||c1==CR||
4482             c1=='-'||c1=='_'||is_alnum(c1)) continue;
4483         if (c1=='=') {
4484             /* Failed. But this could be another MIME preemble */
4485             (*i_ungetc)(c1,f);
4486             mime_input_state.last--;
4487             break;
4488         }
4489         if (c1!='?') break;
4490         else {
4491             /* c1=='?' */
4492             c1 = (*i_getc)(f); mime_input_buf(mime_input_state.last++) = (unsigned char)c1;
4493             if (!(++i<MAXRECOVER) || c1==EOF) break;
4494             if (c1=='b'||c1=='B') {
4495                 mime_decode_mode = 'B';
4496             } else if (c1=='q'||c1=='Q') {
4497                 mime_decode_mode = 'Q';
4498             } else {
4499                 break;
4500             }
4501             c1 = (*i_getc)(f); mime_input_buf(mime_input_state.last++) = (unsigned char)c1;
4502             if (!(++i<MAXRECOVER) || c1==EOF) break;
4503             if (c1!='?') {
4504                 mime_decode_mode = FALSE;
4505             }
4506             break;
4507         }
4508     }
4509     switch_mime_getc();
4510     if (!mime_decode_mode) {
4511         /* false MIME premble, restart from mime_buffer */
4512         mime_decode_mode = 1;  /* no decode, but read from the mime_buffer */
4513         /* Since we are in MIME mode until buffer becomes empty,    */
4514         /* we never go into mime_begin again for a while.           */
4515         return c1;
4516     }
4517     /* discard mime preemble, and goto MIME mode */
4518     mime_input_state.last = k;
4519     /* do no MIME integrity check */
4520     return c1;   /* used only for checking EOF */
4521 }
4522
4523 #ifdef CHECK_OPTION
4524 static void
4525 no_putc(ARG_UNUSED nkf_char c)
4526 {
4527     ;
4528 }