r9396: add ensure-char-storage function, new tests
[uffi.git] / src / strings.lisp
1 ;;;; -*- Mode: Lisp; Syntax: ANSI-Common-Lisp; Base: 10; Package: UFFI -*-
2 ;;;; *************************************************************************
3 ;;;; FILE IDENTIFICATION
4 ;;;;
5 ;;;; Name:          strings.lisp
6 ;;;; Purpose:       UFFI source to handle strings, cstring and foreigns
7 ;;;; Programmer:    Kevin M. Rosenberg
8 ;;;; Date Started:  Feb 2002
9 ;;;;
10 ;;;; $Id$
11 ;;;;
12 ;;;; This file, part of UFFI, is Copyright (c) 2002 by Kevin M. Rosenberg
13 ;;;;
14 ;;;; UFFI users are granted the rights to distribute and use this software
15 ;;;; as governed by the terms of the Lisp Lesser GNU Public License
16 ;;;; (http://opensource.franz.com/preamble.html), also known as the LLGPL.
17 ;;;; *************************************************************************
18
19 (in-package #:uffi)
20
21
22 (defvar +null-cstring-pointer+
23     #+(or cmu sbcl scl) nil
24     #+allegro 0
25     #+lispworks (fli:make-pointer :address 0 :type '(:unsigned :char))
26     #+mcl (ccl:%null-ptr)
27 )
28
29 (defmacro convert-from-cstring (obj)
30   "Converts a string from a c-call. Same as convert-from-foreign-string, except
31 that LW/CMU automatically converts strings from c-calls."
32   #+(or cmu sbcl lispworks scl) obj
33   #+allegro 
34   (let ((stored (gensym)))
35     `(let ((,stored ,obj))
36        (if (zerop ,stored)
37            nil
38          (values (excl:native-to-string ,stored)))))
39   #+mcl 
40   (let ((stored (gensym)))
41     `(let ((,stored ,obj))
42        (if (ccl:%null-ptr-p ,stored)
43            nil
44          (values (ccl:%get-cstring ,stored)))))
45   )
46
47 (defmacro convert-to-cstring (obj)
48   #+(or cmu sbcl scl lispworks) obj
49   #+allegro
50   `(if (null ,obj)
51     0
52     (values (excl:string-to-native ,obj)))
53   #+mcl
54   `(if (null ,obj)
55     +null-cstring-pointer+
56     (let ((ptr (new-ptr (1+ (length ,obj)))))
57       (ccl::%put-cstring ptr ,obj)
58       ptr))
59   )
60
61 (defmacro free-cstring (obj)
62   #+(or cmu sbcl scl lispworks) (declare (ignore obj))
63   #+allegro
64   `(unless (zerop ,obj)
65      (ff:free-fobject ,obj))
66   #+mcl
67   `(unless (ccl:%null-ptr-p ,obj)
68      (dispose-ptr ,obj))
69   )
70
71 (defmacro with-cstring ((cstring lisp-string) &body body)
72   #+(or cmu sbcl scl lispworks)
73   `(let ((,cstring ,lisp-string)) ,@body) 
74   #+allegro
75   (let ((acl-native (gensym)))
76     `(excl:with-native-string (,acl-native ,lisp-string)
77        (let ((,cstring (if ,lisp-string ,acl-native 0)))
78          ,@body)))
79   #+mcl
80   `(if (stringp ,lisp-string)
81      (ccl:with-cstrs ((,cstring ,lisp-string))
82        ,@body)
83      (let ((,cstring +null-cstring-pointer+))
84        ,@body))
85   )
86
87 (defmacro with-cstrings (bindings &rest body)
88   (if bindings
89       `(with-cstring ,(car bindings)
90         (with-cstrings ,(cdr bindings)
91           ,@body))
92       `(progn ,@body)))
93
94 ;;; Foreign string functions
95
96 (defmacro convert-to-foreign-string (obj)
97   #+lispworks
98   `(if (null ,obj)
99     +null-cstring-pointer+
100     (fli:convert-to-foreign-string ,obj :external-format '(:latin-1 :eol-style :lf)))
101   #+allegro
102   `(if (null ,obj)
103        0
104      (values (excl:string-to-native ,obj)))
105   #+(or cmu scl)
106   (let ((size (gensym))
107         (storage (gensym))
108         (i (gensym)))
109     `(etypecase ,obj
110       (null 
111        (alien:sap-alien (system:int-sap 0) (* (alien:unsigned 8))))
112       (string
113        (let* ((,size (length ,obj))
114               (,storage (alien:make-alien (alien:unsigned 8) (1+ ,size))))
115          (setq ,storage (alien:cast ,storage (* (alien:unsigned 8))))
116          (locally
117              (declare (optimize (speed 3) (safety 0)))
118            (dotimes (,i ,size)
119              (declare (fixnum ,i))
120              (setf (alien:deref ,storage ,i) (char-code (char ,obj ,i))))
121            (setf (alien:deref ,storage ,size) 0))
122          ,storage))))
123   #+sbcl
124   (let ((size (gensym))
125         (storage (gensym))
126         (i (gensym)))
127     `(etypecase ,obj
128       (null 
129        (sb-alien:sap-alien (sb-sys:int-sap 0) (* (sb-alien:unsigned 8))))
130       (string
131        (let* ((,size (length ,obj))
132               (,storage (sb-alien:make-alien (sb-alien:unsigned 8) (1+ ,size))))
133          (setq ,storage (sb-alien:cast ,storage (* (sb-alien:unsigned 8))))
134          (locally
135              (declare (optimize (speed 3) (safety 0)))
136            (dotimes (,i ,size)
137              (declare (fixnum ,i))
138              (setf (sb-alien:deref ,storage ,i) (char-code (char ,obj ,i))))
139            (setf (sb-alien:deref ,storage ,size) 0))
140          ,storage))))
141   #+mcl
142   `(if (null ,obj)
143        +null-cstring-pointer+
144      (let ((ptr (new-ptr (1+ (length ,obj)))))
145        (ccl::%put-cstring ptr ,obj)
146        ptr))
147   )
148
149
150 ;; Either length or null-terminated-p must be non-nil
151 (defmacro convert-from-foreign-string (obj &key
152                                            length
153                                            (locale :default)
154                                            (null-terminated-p t))
155   #+allegro
156   `(if (zerop ,obj)
157        nil
158      (if (eq ,locale :none)
159          (fast-native-to-string ,obj ,length)
160        (values
161         (excl:native-to-string
162          ,obj 
163          ,@(when length (list :length length))
164          :truncate (not ,null-terminated-p)))))
165   #+lispworks
166   `(if (fli:null-pointer-p ,obj)
167        nil
168      (if (eq ,locale :none)
169          (fast-native-to-string ,obj ,length)
170        (fli:convert-from-foreign-string 
171         ,obj
172         ,@(when length (list :length length))
173         :null-terminated-p ,null-terminated-p
174         :external-format '(:latin-1 :eol-style :lf))))
175   #+(or cmu scl)
176   `(if (null-pointer-p ,obj)
177     nil
178     (cmucl-naturalize-cstring (alien:alien-sap ,obj)
179      :length ,length
180      :null-terminated-p ,null-terminated-p))
181   #+sbcl
182   `(if (null-pointer-p ,obj)
183     nil
184     (sbcl-naturalize-cstring (sb-alien:alien-sap ,obj)
185      :length ,length
186      :null-terminated-p ,null-terminated-p))
187   #+mcl
188   (declare (ignore null-terminated-p))
189   #+mcl
190   `(if (ccl:%null-ptr-p ,obj)
191      nil
192     #+(and mcl (not openmcl)) (ccl:%get-cstring ,obj 0 ,@(if length (list length) nil))
193     #+openmcl (let ((str (ccl:%get-cstring ,obj)))
194                 ,(if length '(subseq str 0 length) 'str)))
195   )
196
197
198 (defmacro allocate-foreign-string (size &key (unsigned t))
199   #+ignore
200   (let ((array-def (gensym)))
201     `(let ((,array-def (list 'alien:array 'c-call:char ,size)))
202        (eval `(alien:cast (alien:make-alien ,,array-def) 
203                           ,(if ,unsigned 
204                                '(* (alien:unsigned 8))
205                              '(* (alien:signed 8)))))))
206
207   #+(or cmu scl)
208   `(alien:make-alien ,(if unsigned 
209                              '(alien:unsigned 8)
210                              '(alien:signed 8))
211     ,size)
212
213   #+sbcl
214   `(sb-alien:make-alien ,(if unsigned 
215                              '(sb-alien:unsigned 8)
216                              '(sb-alien:signed 8))
217     ,size)
218
219   #+lispworks
220   `(fli:allocate-foreign-object :type 
221                                 ,(if unsigned 
222                                      ''(:unsigned :char) 
223                                    :char)
224                                 :nelems ,size)
225   #+allegro
226   (declare (ignore unsigned))
227   #+allegro
228   `(ff:allocate-fobject :char :c ,size)
229   #+mcl
230   (declare (ignore unsigned))
231   #+mcl
232   `(new-ptr ,size)
233   )
234
235 (defun foreign-string-length (foreign-string)
236   #+allegro `(ff:foreign-strlen ,foreign-string)
237   #-allegro
238   `(loop with size = 0
239     until (char= (deref-array ,foreign-string '(:array :unsigned-char) size) #\Null)
240     do (incf size)
241     finally return size))
242
243
244 (defmacro with-foreign-string ((foreign-string lisp-string) &body body)
245   (let ((result (gensym)))
246     `(let* ((,foreign-string (convert-to-foreign-string ,lisp-string))
247             (,result (progn ,@body)))
248       (declare (dynamic-extent ,foreign-string))
249       (free-foreign-object ,foreign-string)
250       ,result)))
251
252
253 ;; Modified from CMUCL's source to handle non-null terminated strings
254 #+cmu
255 (defun cmucl-naturalize-cstring (sap &key length (null-terminated-p t))
256   (declare (type system:system-area-pointer sap))
257   (locally
258       (declare (optimize (speed 3) (safety 0)))
259     (let ((null-terminated-length
260            (when null-terminated-p
261              (loop
262                  for offset of-type fixnum upfrom 0
263                  until (zerop (system:sap-ref-8 sap offset))
264                  finally (return offset)))))
265       (if length
266           (if (and null-terminated-length
267                    (> (the fixnum length) (the fixnum null-terminated-length)))
268               (setq length null-terminated-length))
269         (setq length null-terminated-length)))
270     (let ((result (make-string length)))
271       (kernel:copy-from-system-area sap 0
272                                     result (* vm:vector-data-offset
273                                               vm:word-bits)
274                                     (* length vm:byte-bits))
275       result)))
276
277 #+scl
278 ;; kernel:copy-from-system-area doesn't work like it does on CMUCL or SBCL,
279 ;; so have to iteratively copy from sap
280 (defun cmucl-naturalize-cstring (sap &key length (null-terminated-p t))
281   (declare (type system:system-area-pointer sap))
282   (locally
283       (declare (optimize (speed 3) (safety 0)))
284     (let ((null-terminated-length
285            (when null-terminated-p
286              (loop
287                  for offset of-type fixnum upfrom 0
288                  until (zerop (system:sap-ref-8 sap offset))
289                  finally (return offset)))))
290       (if length
291           (if (and null-terminated-length
292                    (> (the fixnum length) (the fixnum null-terminated-length)))
293               (setq length null-terminated-length))
294         (setq length null-terminated-length)))
295     (let ((result (make-string length)))
296       (dotimes (i length)
297         (declare (type fixnum i))
298         (setf (char result i) (code-char (system:sap-ref-8 sap i))))
299       result)))
300
301 #+sbcl
302 (defun sbcl-naturalize-cstring (sap &key length (null-terminated-p t))
303   (declare (type sb-sys:system-area-pointer sap))
304   (locally
305       (declare (optimize (speed 3) (safety 0)))
306     (let ((null-terminated-length
307            (when null-terminated-p
308              (loop
309                  for offset of-type fixnum upfrom 0
310                  until (zerop (sb-sys:sap-ref-8 sap offset))
311                  finally (return offset)))))
312       (if length
313           (if (and null-terminated-length
314                    (> (the fixnum length) (the fixnum null-terminated-length)))
315               (setq length null-terminated-length))
316         (setq length null-terminated-length)))
317     (let ((result (make-string length)))
318       (sb-kernel:copy-from-system-area sap 0
319                                     result (* sb-vm:vector-data-offset
320                                               sb-vm:n-word-bits)
321                                     (* length sb-vm:n-byte-bits))
322       result)))
323
324 (eval-when (:compile-toplevel :load-toplevel :execute)
325    (def-function "strlen"
326      ((str (* :unsigned-char)))
327      :returning :unsigned-int))
328
329 (def-type char-ptr-def (* :unsigned-char))
330
331 #+(or lispworks (and allegro (not ics)))
332 (defun fast-native-to-string (s len)
333   (declare (optimize (speed 3) (space 0) (safety 0) (compilation-speed 0))
334            (type char-ptr-def s))
335   (let* ((len (or len (strlen s)))
336          (str (make-string len)))
337     (declare (fixnum len)
338              (type (simple-array (signed-byte 8) (*)) str))
339     (dotimes (i len str)
340       (setf (aref str i) 
341         (uffi:deref-array s '(:array :char) i)))))
342
343 #+(and allegro ics)
344 (defun fast-native-to-string (s len)
345   (declare (optimize (speed 3) (space 0) (safety 0) (compilation-speed 0))
346            (type char-ptr-def s))
347   (let* ((len (or len (strlen s)))
348          (str (make-string len)))
349       (dotimes (i len str)
350         (setf (schar str i) (code-char (uffi:deref-array s '(:array :byte) i))))))