作者:温绍锦 阿里云计算平台团队
一、相关知识 JDK String 的实现
字符串在 JDK 8 及 JDK 9 之后的实现有很大不同的。JDK 8 中,String 的结构是这样的:
1.1 String JDK 8 的实现
class String {
char[] value;
// 构造函数会拷贝
public String(char value[]) {
this.value = Arrays.copyOf(value, value.length);
}
// 无拷贝构造函数
String(char[] value, boolean share) {
// assert share : "unshared not supported";
this.value = value;
}
}
复制代码
1.2 String JDK 9 及之后版本的实现
class String {
static final byte LATIN1 = 0;
static final byte UTF16 = 1;
byte code;
byte[] value;
// 无拷贝构造函数
String(byte[] value, byte coder) {
this.value = value;
this.coder = coder;
}
}
复制代码
JDK9 之后,通过 byte[]来保存 value,通过 code 字段区分是 LATIN1 或者 UTF16。大多数的字符串都是 LATIN1。针对这种情况,我们构造字符串或者对字符串进行编码为二进制时,针对性做 ZeroCopy 的实现,可以获得极致的性能。
二、相关知识 Unsafe
JDK 8 之后提供 sun.Unsafe 可以做一些原生的操作,性能更好,不安全,错误的调用会导致 JVM Crash。如果用对了,能提升性能。Unsafe 能帮你绕过任何限制。
public class UnsafeUtils {
public static final Unsafe UNSAFE;
static {
Unsafe unsafe = null;
try {
Field theUnsafeField = Unsafe.class.getDeclaredField("theUnsafe");
theUnsafeField.setAccessible(true);
unsafe = (Unsafe) theUnsafeField.get(null);
} catch (Throwable ignored) {
// ignored
}
UNSAFE = unsafe;
}
}
复制代码
三、相关知识 Trusted MethodHandles.Lookup
JDK 8 开始支持 Lambda,为了方便将一个 Method 映射为一个 Lambda Function,避免反射开销。java.invoke.LambdaMetafactory 可以实现这一功能,但这个也受限于可见性的限制,也就是说不能调用私有方法。有一个技巧,结合 Unsafe,可以在不同版本的 JDK 都能构造一个 Trusted MethodHandles.Lookup 来绕开可见性的限制,调用任何 JDK 内部方法。如下:
import static com.alibaba.fastjson2.util.UnsafeUtils.UNSAFE;
static final MethodHandles.Lookup IMPL_LOOKUP;
static {
Class lookupClass = MethodHandles.Lookup.class;
Field implLookup = lookupClass.getDeclaredField("IMPL_LOOKUP");
long fieldOffset = UNSAFE.staticFieldOffset(implLookup);
IMPL_LOOKUP = (MethodHandles.Lookup) UNSAFE.getObject(lookupClass, fieldOffset);
}
static MethodHandles.Lookup trustedLookup(Class objectClass) throws Exception {
return IMPL_LOOKUP.in(objectClass);
}
复制代码
注意:在 IBM OpenJ9 JDK 8/11 版本上面的实现受到可见性限制,需要做额外处理,参考 FASTJSON2 JDKUtils#trustedLookup 的代码 :
https://github.com/alibaba/fastjson2/blob/fastcode_demo_20221218/core/src/main/java/com/alibaba/fastjson2/util/JDKUtils.java#L254
四、零拷贝构造 String 对象
快速构造字符串的关键是要做减少拷贝,甚至零拷贝,在 JDK 8、JDK 9~15、JDK 16 及之后的版本的实现都不一样。
4.1 JDK 8 零拷贝构造 String 对象的实现
在 JDK8 中,实现零拷贝构造 String 对象,需要调用其构造函数 String(char[], boolean),比如:
BiFunction<char[], Boolean, String> stringCreatorJDK8
= (char[] value, boolean share) -> new String(chars, boolean);
复制代码
由于 String(char[], boolean)方法不是 public 的,上面的代码会报错,要通过反射构造一个 TRUSTED 的 MethodHandles.Lookup,然调用 String 的内部方法,映射成一个 BiFunction<char[], Boolean, String>,代码如下:
import com.alibaba.fastjson2.util.JDKUtils;
import java.util.function.BiFunction;
import java.lang.invoke.MethodHandles;
import static java.lang.invoke.MethodType.methodType;
MethodHandles.Lookup caller = JDKUtils.trustedLookup(String.class);
MethodHandle handle = caller.findConstructor(
String.class,
methodType(void.class, char[].class, boolean.class)
);
CallSite callSite = LambdaMetafactory.metafactory(
caller,
"apply",
methodType(BiFunction.class),
methodType(Object.class, Object.class, Object.class),
handle,
methodType(String.class, char[].class, boolean.class)
);
BiFunction<char[], Boolean, String> STRING_CREATOR_JDK8
= (BiFunction<char[], Boolean, String>)
callSite.getTarget().invokeExact();
复制代码
4.2 JDK9 及之后版本实现零拷贝构造 String 对象的实现
在 JDK 9~JDK 15 中,我们要构造一个这样的 Function 用于零拷贝构造 String 对象:
BiFunction<byte[], Byte, String> STRING_CREATOR_JDK11
= (byte[] value, byte coder) -> new String(value, coder);
复制代码
同样,JDK 9 中的 String(byte[], byte)方法不是 public,无法直接调用,上面的代码会报错,要构造一个 TRUSTED MethodHandles.Lookup 方法调用 String 内部方法,如下:
import com.alibaba.fastjson2.util.JDKUtils;
import static java.lang.invoke.MethodType.methodType;
MethodHandles.Lookup caller = JDKUtils.trustedLookup(String.class);
MethodHandle handle = caller.findConstructor(
String.class,
methodType(void.class, byte[].class, byte.class)
);
CallSite callSite = LambdaMetafactory.metafactory(
caller,
"apply",
methodType(BiFunction.class),
methodType(Object.class, Object.class, Object.class),
handle,
methodType(String.class, byte[].class, Byte.class)
);
BiFunction<byte[], Byte, String> STRING_CREATOR_JDK11
= (BiFunction<byte[], Byte, String>)
callSite.getTarget().invokeExact();
复制代码
注意:当用户配置 JVM 参数-XX:-CompactStrings 时,上述方法无效。
4.3 快速构造 String 对象应用举例
stiatic BiFunction<char[], Boolean, String> STRING_CREATOR_JDK8 = ...
static BiFunction<byte[], Byte, String> STRING_CREATOR_JDK11 = ...
static String formatYYYYMMDD(LocalDate date) {
int year = date.getYear();
int month = date.getMonthValue();
int dayOfMonth = date.getDayOfMonth();
int y0 = year / 1000 + '0';
int y1 = (year / 100) % 10 + '0';
int y2 = (year / 10) % 10 + '0';
int y3 = year % 10 + '0';
int m0 = month / 10 + '0';
int m1 = month % 10 + '0';
int d0 = dayOfMonth / 10 + '0';
int d1 = dayOfMonth % 10 + '0';
String str;
if (STRING_CREATOR_JDK11 != null) {
byte[] bytes = new byte[10];
bytes[0] = (byte) y0;
bytes[1] = (byte) y1;
bytes[2] = (byte) y2;
bytes[3] = (byte) y3;
bytes[4] = '-';
bytes[5] = (byte) m0;
bytes[6] = (byte) m1;
bytes[7] = '-';
bytes[8] = (byte) d0;
bytes[9] = (byte) d1;
str = STRING_CREATOR_JDK11.apply(bytes, JDKUtils.LATIN1);
} else {
char[] chars = new char[10];
chars[0] = (char) y1;
chars[1] = (char) y2;
chars[2] = (char) y3;
chars[3] = (char) y4;
chars[4] = '-';
chars[5] = (char) m0;
chars[6] = (char) m1;
chars[7] = '-';
chars[8] = (char) d0;
chars[9] = (char) d1;
if (STRING_CREATOR_JDK8 != null) {
str = STRING_CREATOR_JDK8.apply(chars, Boolean.TRUE);
} else {
str = new String(chars);
}
}
return str;
}
复制代码
上面的例子中,根据 JDK 版本,在 JDK 8 中直接创建 char[],JDK 9 中直接创建 byte[],然后通过零拷贝的方式构造字符串对象,这样就实现了快速格式化 LocalDate 到 String,这样的实现远比使用 SimpleDateFormat/java.time.DateTimeFormat 等实现要快得多。
五、直接访问 String 对象内部成员
5.1 JDK 8 快速访问 value
static final Field FIELD_STRING_VALUE;
static final long FIELD_STRING_VALUE_OFFSET;
static {
Field field = null;
long fieldOffset = -1;
try {
field = String.class.getDeclaredField("value");
fieldOffset = UnsafeUtils.objectFieldOffset(field);
} catch (Exception ignored) {
FIELD_STRING_ERROR = true;
}
FIELD_STRING_VALUE = field;
FIELD_STRING_VALUE_OFFSET = fieldOffset;
}
public static char[] getCharArray(String str) {
if (!FIELD_STRING_ERROR) {
try {
return (char[]) UnsafeUtils.UNSAFE.getObject(
str,
FIELD_STRING_VALUE_OFFSET
);
} catch (Exception ignored) {
FIELD_STRING_ERROR = true;
}
}
return str.toCharArray();
}
复制代码
5.2 JDK 9 及之后版本直接访问 coder & value
我们需要构造如下的函数:
ToIntFunction<String> stringCoder = (String str) -> str.coder();
Function<String, byte[]> stringValue = (String str) -> str.value();
复制代码
但由于 String.coder 和 value 方法不是 public 可见的,和上面的 4.2 类似,要通过 TRUSTED MethodHandles.Lookup 构造,如下:
import com.alibaba.fastjson2.util.JDKUtils;
import static java.lang.invoke.MethodType.methodType;
MethodHandles.Lookup lookup = JDKUtils.trustedLookup(String.class);
MethodHandle coder = lookup.findSpecial(
String.class,
"coder",
methodType(byte.class),
String.class
);
CallSite applyAsInt = LambdaMetafactory.metafactory(
lookup,
"applyAsInt",
methodType(ToIntFunction.class),
methodType(int.class, Object.class),
coder,
MethodType.methodType(byte.class, String.class)
);
ToIntFunction<String> STRING_CODER
= (ToIntFunction<String>) applyAsInt.getTarget().invokeExact();
MethodHandle value = lookup.findSpecial(
String.class,
"value",
methodType(byte[].class),
String.class
);
CallSite apply = LambdaMetafactory.metafactory(
lookup,
"apply",
methodType(Function.class),
methodType(Object.class, Object.class),
value,
methodType(byte[].class, String.class)
);
Function<String, byte[]> STRING_VALUE
= (Function<String, byte[]>) apply.getTarget().invokeExact();
复制代码
5.3 直接访问举例
static Byte LATIN1 = 0;
static ToIntFunction<String> STRING_CODER = ...
static Function<String, byte[]> STRING_VALUE ...
byte[] buf = ...;
int off;
void writeString(string str) {
if (STRING_CODER != null && STRING_VALUE != null) {
// improved for JDK 9 LATIN1
int coder = stringCoder.apply(str);
if (coder == LATIN1) {
// str.getBytes(0, str.length, buf, off);
byte[] value = STRING_VALUE.apply(str);
System.arrayCopy(value, 0, buf, off, value.length);
return;
}
}
// normal logic
}
复制代码
5.4 巧用 String.getBytes 方法
String 有一个 Deprecated 的 getBytes 方法,当有非 LATIN 字符时,结果不对。但当在 coder 为 LATIN1 时,可用于直接拷贝其中 value。
class String {
@Deprecated
public void getBytes(int srcBegin, int srcEnd, byte dst[], int dstBegin) {
int j = dstBegin;
int n = srcEnd;
int i = srcBegin;
char[] val = value; /* avoid getfield opcode */
while (i < n) {
dst[j++] = (byte)val[i++];
}
}
}
复制代码
static Byte LATIN1 = 0;
static ToIntFunction<String> STRING_CODER = ...
byte[] buf = ...;
int off;
void writeString(string str) {
if (STRING_CODER != null) {
// improved for JDK 9 LATIN1
int coder = STRING_CODER.apply(str);
if (coder == LATIN1) {
str.getBytes(0, str.length, buf, off);
return;
}
}
// normal logic
}
复制代码
参考实现:FASTJSON2 项目使用了上面的技巧,其中 JDKUtils 和 UnsafeUtils 有上面技巧的实现:
JDKUtils:https://github.com/alibaba/fastjson2/blob/fastcode_demo_20221218/core/src/main/java/com/alibaba/fastjson2/util/JDKUtils.java
UnsafeUtils:https://github.com/alibaba/fastjson2/blob/fastcode_demo_20221218/core/src/main/java/com/alibaba/fastjson2/util/UnsafeUtils.java
注意事项:上面的技巧不建议新手使用,需要先清楚原理,才可使用。
评论